エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
L1正規化の話 - 小宮日記
人工知能基本問題研究会(SIG-FPAI)での岡野原さんの発表のときに取ったメモ http://d.hatena.ne.jp/syou... 人工知能基本問題研究会(SIG-FPAI)での岡野原さんの発表のときに取ったメモ http://d.hatena.ne.jp/syou6162/20090314/1236982684 色々、オンライン学習の性能の比較があって面白い 正規化項にL1正規化というものを使うと多くの重みが0になるという特徴があり、 そういうわけで多くのパラメータを保持しておかなくてもよい、という利点があるとのことだった。 多くのパラメータが0になるということで学習の結果が分かりやすい 計算が早い メモリが少なくてよい現在ボナメソはL1とL2正規化をペナルティでやってますけど、 パラメーターが0になっても配列の大きさは変わらないのでメモリ量は変わらないなあ キャッシュでは有利になるのかなあ? 値が0だと ただL1正規化されるような小さいな微分値の影響はノイズと考えれば、汎化能力は増すような気がする L2にはどんなメ