スパース主成分分析への理解 - Qiita

スパース主成分分析とは 主成分分析は、[1]によれば、『しかし、各主成分の寄与率が小さいとき、（例えば 10 個の特徴量が持つ情報量を 5 個の主成分で 6 割しか説明できないよう場合であれば、）データ全体を解釈するために、より多くの主成分を選ぶ必要がある。より多くの主成分を選ぶと、その主成分の解釈が難しくなる。この主成分に対してもスパース推定というアプローチをすることができる。主成分を推定する際に、主成分がなるべく 0 になるように推定するアプローチである。』 つまり、 次元圧縮の際、主成分分析は二乗誤差最小化を使うが、スパース主成分分析は、L1正則化(Lasso回帰)を行う。これにより、各主成分から解釈に不要な変数を取り除くことができる。[2] 主成分分析[2] \hat{V} = \underset{V_k}{\operatorname{argmin}} \sum_{i=1}^n |