はじめてのパターン認識 9章（前半） - Qiita

部分空間法 機械学習を行うために、マシーンに食わせるデータを準備します。 その際にデータの次元数（大きさ）が小さい方がより学習に効果的なので、 $d$次元特徴ベクトル空間を重要な情報をもつ$r(≤d)$次元空間に縮小します。 9章では、教師なし学習次元削除手法の 主成分分析、特異値分解、 部分空間法、カーネル主成分分析、カーネル部分空間法 について取り上げています。 部分空間法、カーネル主成分分析、カーネル部分空間法は難しいので後半に分けます。 なお、はじめてのパターン認識 第４章 確率モデルと識別関数 前半（観測データの線形変換）の話と通じていますので先にご覧ください。 9.1 部分空間 (Subspace) ある構造を持った集合Xについて、空間と呼ばれる構造を保つための部分集合のこと。 １次結合 線形結合、線形和ともいう。ベクトルの定数倍と加え合わせ。 例 2次元数ベクトル $V =

[teddy-g]

色々読んだがここの特異値分解の説明が一番わかりやすい気がする。