エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Transformerの成長は止まらない!Transformerの改善に関する研究のまとめ Part3
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Transformerの成長は止まらない!Transformerの改善に関する研究のまとめ Part3
3つの要点 ✔️ Efficient Transformerのモデルの具体例について紹介 ✔️ 学習可能パターン・低ランク因数分... 3つの要点 ✔️ Efficient Transformerのモデルの具体例について紹介 ✔️ 学習可能パターン・低ランク因数分解・カーネル・再帰を利用した手法を解説 ✔️ 最善で線形オーダーO(N)のAttentionを達成 Efficient Transformers: A Survey written by Yi Tay, Mostafa Dehghani, Dara Bahri, Donald Metzler (Submitted on 14 Sep 2020 (v1), last revised 16 Sep 2020 (this version, v2)) Comments: Accepted at arXiv Subjects: Machine Learning (cs.LG); Artificial Intelligence (cs.AI); Computation and