ベイズ統計の枠組みにおいて、回帰係数の事前分布に二重指数分布(ラプラス分布)を設定し回帰を実行してMAP推定値を求めると、lassoに対応した結果になります。また、回帰係数にt分布を設定する手法もあります。これらの手法は「shrinkage factorの分布」という観点から見ると見通しがよいです。さらに、その観点から見ると、馬蹄事前分布が魅力的な性質を持っていることが分かります。この記事ではそれらを簡単に説明します。 なお、lassoそのものに関しては触れません。岩波DS5がlassoを中心にスパースモデリングを多角的に捉えた良い書籍になっているので、ぜひそちらを参照してください。 岩波データサイエンス Vol.5 発売日: 2017/02/16メディア: 単行本(ソフトカバー) 参考文献 [1] C. Carvalho et al. (2008). The Horseshoe Esti
![スパースモデルではshrinkage factorの分布を考慮しよう ~馬蹄事前分布(horseshoe prior)の紹介~ - StatModeling Memorandum](https://cdn-ak-scissors.b.st-hatena.com/image/square/25f33b9fa86139d86c63f830503f8ea299f427af/height=288;version=1;width=512/http%3A%2F%2Fkasugano.sakura.ne.jp%2Fimages%2F2017%2F20170413%2Ffig1.png)