PRML読書会 #5 資料「線形識別モデル(2)」 - 木曜不足

これは パターン認識と機械学習(PRML)読書会 #5 (4章 線形識別モデル) での発表用の資料「4.1.3 最小二乗」〜「4.1.6 多クラスにおけるフィッシャー判別」です。 まとめメインで、細かい計算やサンプルは板書する予定です。 【更新】読書会での指摘を反映。 4.1.3 最小二乗 学習データ から 二乗和誤差関数(sum-of-squares error function)を最小にする weight vector(matrix) を求める。 最小二乗の解は、条件付き期待値の近似を与える [cf. 1.5.5] (★*1 , t=1 が に対応するような)２値表記法では、クラス事後確率に一致 近似精度が悪い。[0, 1] の範囲外になることも。 クラスごとの線型モデル K クラス分類における、各クラス の線型モデル , が最大となる に割り当てる ひとまとめにして (D+1)×K