PCA, ICA, PLS, CCA, LDAの違い～線形の潜在変数モデルとしての差異～ : 大学教授のブログ (データ分析相談所)

下の５つの手法はどれも説明変数 (記述子・特徴量・入力変数) から潜在的な変数 (たとえばPCAなら主成分と呼ばれます) を計算する手法であり、その潜在変数 (latent variable, LV) は説明変数の線形結合で (説明変数のベクトルとあるベクトルの内積の形で) 表されることを仮定しています。 主成分分析 (Principal Component Analysis, PCA) 独立成分分析 (Independent Component Analysis, ICA) 部分的最小二乗法 (Partial Least Squares, PLS) 正準相関解析 (Canonical Correlation Analysis, CCA) 線形判別分析 (Linear Discriminant Analysis, LDA) 今回はこれらの違いをまとめておきます。