高次元スパース線形モデルにおけるパラメータの信頼区間を構築するためのブートストラップLasso+部分リッジ法[R] - 井出草平の研究ノート

stat.paperswithcode.com HDCI（High-Dimensional Confidence Intervals）はは、Lasso回帰とRidge回帰の欠点を補うという点にある。 Lasso回帰は、変数選択を行う際に多くの変数の係数をゼロにするため、少ししか関連性のない変数が推計から排除される可能性がある。 Ridge回帰は、すべての変数を選択するため、多くの無関係な変数がモデルに含まれることになる。 HDCIは、まずLasso回帰で重要な変数を選択し、その後Partial Ridge回帰を用いてこれらの変数の係数を再推定することで、Lassoの変数選択の強みとRidgeのバイアス補正の強みを組み合わせてこの欠点を補正する方法といえる。 特に高次元スパース線形モデルの係数に対する信頼区間を構築するためという点が大きいようだ。高次元スパース線形モデルとは、説明変数の数が観