SVM(Support Vector Machine)
１．SVM(Support Vector Machine) SVM(Support Vector Machine)は，1960年代に Vapnik によって提案された二値分類のための教師ありアルゴリズムである[1]。 1990年代になってカーネル学習法と組み合わせた非線形識別手法として脚光を浴びた。 そういう点で、ニューラルネットワークよりも誕生が新しい技法と言える。 図１では２次元データを平面上にプロットしたものである。○と●の２種類がある。 例えば、ある花の２品種について、花びらの長さと幅をプロットしたようなものである。 斜めに引いた実線は二つの品種を分ける境界線である。 現在プロットしているデータが学習データに当たる。 観測データに関しては、この境界線より左上側に位置するようならば、○（正）に分類し、 そうでなければ●(負)に分類するものである。 境界線の求め方を点線で示している。
サポートベクターマシン
サポートベクターマシン（Support Vector Machine:SVM）は２クラス分類識別器の一種ある。 その大きな特徴として次の三つがあげられる。 マージン最大化という方針で識別平面を決定するので高い汎化能力が期待できる。 学習がラグランジュ未定乗数法により二次計画問題に帰着され、局所最適解が必ず広域最適解となる。 識別対象の空間に対する事前知識を反映した特徴空間を定義することで、その特徴空間上で線形識別を行える。 さらにその特徴空間上での内積を表したカーネルと呼ばれる関数を定義することにより、明示的に特徴空間への 変換を示す必要がない。 以下に簡単に説明していく。 1.マージン最大の識別平面 図1のように２次元ベクトルで表される空間上にあるパターンを線形に識別する問題を考えてみる。 ○と □はそれぞれ別のクラスに属するものとする。 一般にパターン認識の問題では、パターンをどちらの
サポートベクターマシン（SVM）
トップページ→研究分野と周辺→ニューラルネットワーク→ サポートベクターマシン（SVM）は、1995年頃にAT&TのV.Vapnikが発表したパターン識別用の教師あり機械学習方法であり、局所解収束の問題が無い長所がある。 「マージン最大化」というアイデア等で汎化能力も高め、現在知られている方法としては、最も優秀なパターン識別能力を持つとされている。 また、カーネル・トリックという魔法のような巧妙な方法で、線形分離不可能な場合でも適用可能になった事で応用範囲が格段に広がり、近年研究が盛んになっている。 しかし、データを2つのグループに分類する問題には優れているが、多クラスの分類にそのまま適用出来ず、計算量が多い、カーネル関数の選択の基準も無い等の課題も指摘され、一概に誤差逆伝播法等と比較して優れていると言い切れるものでもない。 SVMは厳密にはニューラルネットワークではないが、中間層から出力
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OpenCV: Introduction to Support Vector Machines
https://scikit-learn.org/stable/modules/kernel_approximation.html
intro.dvi
栗田多喜夫「サポートベクターマシン入門」（PDF）
線形SVM ～ 詳細説明 ～
Why is it that RVMs are not as popular as SVMs?
pythonでSVM実装 - Qiita
