2つのTransformerが協力して1つの強いGANを作ることが可能！
3つの要点 ✔️ 世界初の純粋なトランスフォーマーベースのGAN ✔️ 変形GANを学習するためのメモリフレンドリーな生成器と新しい学習技術のセット ✔️ STL-10ベンチマークにおいて、CNNベースのGANや新しいSOTAと競合する結果を獲得 TransGAN: Two Transformers Can Make One Strong GAN written by Yifan Jiang, Shiyu Chang, Zhangyang Wang (Submitted on 14 Feb 2021 (v1), last revised 16 Feb 2021 (this version, v2)) Comments: Accepted to arXiv. Subjects: Computer Vision and Pattern Recognition (cs.CV) code： はじめ
Yann LeCun’s Deep Learning Course at CDS is Now Fully Online & Accessible to All
CDS is excited to announce the release of all materials for Yann LeCun’s Deep Learning, DS-GA 1008, co-taught in Spring 2020 with Alfredo Canziani. This unique course material consists of a mix of close captioned lecture videos, detailed written overviews, and executable Jupyter Notebooks with PyTorch implementations. The course covers the latest techniques in both deep learning and representation
Graph Neural Networksを完全に理解したい
社内の輪講で発表した資料です。 Graph Neural NetworksについてSpectral MethodとSpatial Methodについて代表的な手法を簡単に紹介し、更にDeep Graph Library (DGL)を用いた具体的な実装方法を紹介しています。
ニューラルネットワークの訓練の問題点：過学習と局所的極小点 – 数理・機械学習トピックス学習会
ニューラルネットワークモデルの訓練（training）では、過学習（over-fitting）が起きたり、局所的な極小点に陥り、性能が高くならないという問題が発生することがあります。 過学習 過学習は訓練データの数に対してパラメータの数が多い場合や、訓練データに偏りがある場合に起き易い現象です。図１はデータ数が少ない場合の入出力のグラフ（横軸入力、縦軸出力）ですが、このようにデータ数が少ない場合、各データにほぼ一致する曲線を見出す（パラメータを決定する）ことは難しくありません。 そして、もし図１の数少ないデータが、対象とするデータ全体の分布を代表していいるのであれば、図１の曲線は小さい誤差関数E（前の記事の式(5)）を持つ、大域的な最小点に近い、正しい曲線を表していることになります。 しかし、もし図１のデータが、対象とするデータ全体の分布を代表しておらず、データ数を増やすと図２のような分布
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【後藤弘茂のWeekly海外ニュース】 第3世代のディープラーニングプロセッサはモデル圧縮技術が鍵
ライス大学研究チーム、GPUを使わずにディープラーニングを高速化するアルゴリズムを開発
