はじめに pythonでSVM(サポートベクターマシン)を実装しました. 教科書として『はじめてのパターン認識』を使いました. 本記事の構成 はじめに SVM マージン最大化 主問題 ラグランジュ未定乗数法 KKT条件 双対問題 解の求め方 pythonでの実装 結果 おわりに 追記情報 SVMとは,最大マージンを実現する2クラス線形識別学習法です. 教科書によると,他クラスの識別は $K-1$ 個の一対多SVMで実現することが多いようです. マージン最大化 次のようなデータ集合を考えます. データの総数を $N$ とすると,$i = 1,...,N$となります.