エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Weight Normalization [arXiv:1602.07868]
概要 Weight Normalization: A Simple Reparameterization to Accelerate Training of Deep Neural Netw... 概要 Weight Normalization: A Simple Reparameterization to Accelerate Training of Deep Neural Networksを読んだ Chainer 1.17で実装した(→GitHub) はじめに Weight Normalizationは、ニューラルネットの重みベクトル$\boldsymbol w$を \[\begin{align} \boldsymbol w=\frac{g}{\mid\mid \boldsymbol v \mid\mid}\boldsymbol v \end{align}\\] のように、ベクトル$\boldsymbol v$とスカラー$g$に分解します。 また、これらのパラメータで誤差関数$L$を微分した時の勾配はそれぞれ \[\begin{align} \nabla_gL &= \frac{
2017/02/08 リンク