第4回 - 線形SVM まずはマージンがκ(kappa)である以下の様な線形識別面 を考え、そのマージンを最大化することを考える。 wとbをκで正規化したものに置き換えると となる。これは となり、2つをまとめて と表すことができる。 図4.3 図4.3より、あるデータxをw方向に射影した長さは であるから、クラス間マージンρ(w,b)は次のように与えられる。 上の不等式により t_i=+1 のとき min(wx)=1-b t_i=-1 のとき max(wx)=-1-b であるから、 となる。つまりρの最大化⇔||w||の最小化である。 主問題とKKT条件 以上より線形SVMにおける主問題(解くべきとなる問題)は次の問題であることがわかる。 この問題は多変数関数の最適化問題であるから、次のようなLagrange関数を用意することでLagrangeの未定乗数法に落としこむことができる。 1〜