気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
zenn.dev/bilzardエントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
0
記事へのコメント0件
- 注目コメント
- 新着コメント
新着コメントはまだありません。
このエントリーにコメントしてみましょう。
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
HWの制約を考慮したモデル設計によるパフォーマンス改善
この記事は以下の論文のまとめ記事です。ModernBERTで採用していたアーキテクチャのパラメータ設計が気... この記事は以下の論文のまとめ記事です。ModernBERTで採用していたアーキテクチャのパラメータ設計が気になったので参考文献を紐解きました。 paper: The Case for Co-Designing Model Architectures with Hardware, Jan 2024 この記事で引用されている図の著作権は全て著者らに帰属します。 Abstract 機械学習モデルにおける計算のスループットはHWの制約をかなり受ける Transformerモデルの処理の大部分はGEMMに割かれているので、GEMMの行列のサイズを最適に設計することで効果的にスループットを向上できる 本論文ではNVIDIAのGPUの機能に特化したモデルのアーキテクチャの設計指針と具体的な設計ルールが示されている 用語 GEneral Matrix Multiplication (GEMM): 行列の乗
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
zenn.dev/bilzard
zenn.dev/bilzard
zenn.dev/bilzard
zenn.dev/bilzard
news.web.nhk
anond.hatelabo.jp
de0.hatenablog.com
www.youtube.com
www.itmedia.co.jp
zenn.dev/shimosyan
note.com/kiwiwi
togetter.com
tech.newmo.me
speakerdeck.com/panda728
akiba-pc.watch.impress.co.jp
developers.freee.co.jp
tech.nri-net.com
tech.uzabase.com
www.softbank.jp
