線形判別分析 | 線形判別分析を利用した次元削減クラス平均間の距離 データをクラスごとに分離するための最適な射影を求めるためには、まず、射影後のクラス同士の分離の良さを測る指標を定義する必要がある。もっともシンプルな指標として、あるクラスの平均と他のクラスの平均との距離がある。例えば、2 クラス分類問題において、射影後のクラス 1 の平均 \(\boldsymbol{\mu}_{1} \) とクラス 2 の平均 \(\boldsymbol{\mu}_{2} \) の距離が大きく離れるほど、クラス 1 とクラス 2 の要素をうまく分類できたといえる。 \[ J(\mathbf{w}) = | \boldsymbol{\mu}_{1} - \boldsymbol{\mu}_{2} |^{2} \] しかし、次の図に示したように、上のケースと下のケースとでは、クラス平均間の距離が等しい。それにもかかわらず、実際にデータをうまく分類できるのは、
