L1正則化、つまり正則化項としてL1-normを使うとパラメタの大部分が0につぶれてモデルがコンパクトになるよという話をよく聞くと思います。初めて聞くと、何で?と思われるかと思います。先日の岡野原握手会でもこの話題がさらっとでて、@hillbigさんはよく微分した形でこれを説明しています(「押すなよ押すなよー」)。私は目的関数の形で理解した方がわかりやすいと思っているので、それを紹介。 まず、正則化項の入っていない凸な目的関数を考えます。 普通パラメタベクトルは多次元なので、多次元の山みたいな形になりますが、ここでは1次元だと思いましょう。この時点で最適値は(頂点の位置)は3です。これに正則化項を足します。L2だとこんな形をしています、というか0を中心とする放物線です。 足しましょう。 足すと0に向かってシフトすることがわかるでしょう。L2正則化の式は原点中心の山なので、元の山(頂点がどこ
![L1正則化で重みが0につぶれる理由](https://cdn-ak-scissors.b.st-hatena.com/image/square/ff2b295f4d84ba6894c9afe715642643f888e6f7/height=288;version=1;width=512/https%3A%2F%2Fblogger.googleusercontent.com%2Fimg%2Fb%2FR29vZ2xl%2FAVvXsEif-Pljd8nVA0Nv5zzas35rQBfjJ1T-tzGxaAknDR5pvAz-1dYp64BbPjQhAhXMGmemhNFUUPUjItR9ywYiTuTitxdXg4w65L2gWQ0o_TE1avZOCwoa5Hl_n-amLDvQymAQxcg9Lbuswbah%2Fw1200-h630-p-k-no-nu%2Fobj.png)