気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
zenn.dev/bilzardエントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
勾配ベースの最適化手法について直近に読んだ論文のまとめ
概要 勾配ベースの最適化手法について直近数ヶ月で読んだ論文を元にまとめる。網羅的ではないことに注意... 概要 勾配ベースの最適化手法について直近数ヶ月で読んだ論文を元にまとめる。網羅的ではないことに注意。 構成 以下のような構成でまとめる。 Adamの派生手法 補助的に用いられる最適化手法 リソース消費を最適化する手法 1. Adamの派生手法 Decoupled weight decay (SGDW, AdamW) [5]ではAdamのweight decayの実装の問題点を理論的に解明し、これに対処する代替アルゴリズムを提案した。提案手法はAdamの汎化性能を改善し、CIFAR-10, ImageNet32x32による評価でSGD with momentum(提案手法以前ではAdamを上回ることが多かった)と同等の性能となることを示した。 Rectified Adam (RAdam) RMSpropやAdamなどのadaptiveな最適化手法において、warmupが学習の安定性や汎化性能
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
zenn.dev/bilzard
zenn.dev/bilzard
zenn.dev/bilzard
zenn.dev/bilzard
www.47news.jp
anond.hatelabo.jp
anond.hatelabo.jp
anond.hatelabo.jp
anond.hatelabo.jp
internet.watch.impress.co.jp
zenn.dev/mkj
scan.netsecurity.ne.jp
forest.watch.impress.co.jp
pc.watch.impress.co.jp
forbesjapan.com
applech2.com
yumejitugen.com
sapporonishi-teine.goguynet.jp
webjoshi.com
onaji.me
levtech.jp
engineers.ntt.com
levtech.jp
2025/10/06 リンク