機械学習におけるカーネル法について - めもめも
何の話かというと 機械学習におけるカーネル法の説明で、よく登場するのがこちらの図です。 左側の (x, y) 平面上の点を分類する場合、このままだと線形分類器（直線で分類するアルゴリズム）ではうまく分類できないのが、右図のように z 軸を追加してデータを変形すると、平面できれいに分割できるようになって、線形分類器による分類がうまくいくというものです。このように、高次元空間にデータを埋め込むことでうまいこと分類するのがカーネル法の仕組みだというわけです。 なのですが・・・・・・・・・・・・・・・・・・・・ これ、本当にカーネル法の原理を知っている方には、ちょっと気持ち悪くないですか？ ※ 以下はカーネル法を知っている方向けのつぶやきです。 上記の例は、データの配置にあわせて、うまいこと z 軸方向の変形をしているのでうまくいっているのですが、カーネル法には、データの配置にあわせてうまいこと変
ガウスカーネルとその特徴ベクトル - 具体例で学ぶ数学
ガウスカーネルとは ・$K(x,x’)=e^{-a(x-x’)^2}$ という式で定義される二変数関数のことをガウスカーネルと言います。$a$ は正の定数です。関数の入力は $x$ と $x’$ で、出力はスカラーです。このページでは一次元のガウスカーネルについて説明します（$x$ と $x’$ はスカラーとします）。 ・ガウス分布（正規分布）の確率密度関数に似ています。 ・ガウスカーネル $K(x,x’)$ は $x$ と $x’$ の「近さ」を表します。 ・$x=x’$ のとき $K(x,x’)=1$ で、$x\neq x’$ のときは $K(x,x’)<1$ です。 ガウスカーネルの特徴ベクトルとは データ $x$ に対する特徴ベクトルが $\overrightarrow{\phi}(x)$ であるとき、それに対応するカーネル関数は、 $K(x,x’)=\overrightarrow
MIRU2014 tutorial deeplearning
Semi supervised, weakly-supervised, unsupervised, and active learningYusuke Uchida
サポートベクターマシンとは［カーネル法による非線形サポートベクターマシン］ - verum ipsum factum
ここからはこれまで述べてきたサポートベクターマシンにカーネル法を適用することにより非線形サポートベクターマシンへ拡張することを考えます。 カーネル法の導入 これまで述べてきたサポートベクターマシーン分離面が超平面であることを前提としていました。しかし、実際の問題では正例データと負例データの境界が超平面であるよりは、複雑に入り組んだ超曲面である可能性が高いことが想定されます。 このようなデータに、これまで述べてきたようなクラス境界を超平面とするサポートベクターマシーンを適用しても、高い分類性能を期待することは難しそうです。 たとえば下図のような単純なケースでさえ正例データ（○）と負例データ（×）を分ける直線は存在しないため、１００％の分類性能は達成できません。 しかし、このようなデータでも線形分離が可能になるような別の空間へ変換できれば、変換先の空間ではクラス境界が超平面になるのでサポートベ
カーネル法
カーネル法 線形回帰、識別からカーネル関数へ y ( w ) = wT φ (x ) という一般化した線形回帰式に対して 2 1N λT T J ( w ) = ∑ {w φ ( x n ) − tn } + w w 2 n =1 2 ただし ⎛ φ1 ( x n ) ⎞ ⎜ ⎟ φ (x n ) = ⎜ M ⎟ ⎜ φ (x ) ⎟ ⎝M n⎠ tnはw T φ ( x n )がとるべき値。 ( Mは教師データの次元数 , Nは教師データ数) という正規化項つきの２乗誤差を考えるとき、 φ (x )についてもう少し組織的に考えてみよう。 カーネル関数と呼ばれる k (φ (x ), φ ( y )) で回帰や識別を考え直す ことにより、より効率の良い方法が見えてくる。 双対表現 まず、正規化項つきの２乗誤差関数を考える。 J ( w) = 1 2 ∑ {w φ (x
SVM(Support Vector Machine)
１．SVM(Support Vector Machine) SVM(Support Vector Machine)は，1960年代に Vapnik によって提案された二値分類のための教師ありアルゴリズムである[1]。 1990年代になってカーネル学習法と組み合わせた非線形識別手法として脚光を浴びた。 そういう点で、ニューラルネットワークよりも誕生が新しい技法と言える。 図１では２次元データを平面上にプロットしたものである。○と●の２種類がある。 例えば、ある花の２品種について、花びらの長さと幅をプロットしたようなものである。 斜めに引いた実線は二つの品種を分ける境界線である。 現在プロットしているデータが学習データに当たる。 観測データに関しては、この境界線より左上側に位置するようならば、○（正）に分類し、 そうでなければ●(負)に分類するものである。 境界線の求め方を点線で示している。
[チュートリアル講演] カーネルマシン
次へ: はじめに [チュートリアル講演] カーネルマシン 赤穂 昭太郎1 Shotaro Akaho s.akaho@aist.go.jp 概要: サポートベクタマシン (SVM) に代表されるカーネルを用いた学習機械について解説する． これらにほぼ共通しているのは，基本的に線形の学習機械の延長線上にあり， ローカルミニマムの問題などが少ないこと，それから，正則化を行うことにより 高い記述能力と汎化能力を両立していることが特長である． キーワード: サポートベクタマシン，正則化，スパースネス，数理計画法， 汎化 Kernel machines such as the support vector machine are reviewed. Most of them are not suffered from the local optimum problem, because they a
正定値カーネルと再生核ヒルベルト空間がいかに自然なものであ るか 2013 年 10 月 14 日 手塚太郎 再生核ヒルベルト空間について、応用も含めて非常に分かりやすく説明しているのは以下の
正定値カーネルと再生核ヒルベルト空間がいかに自然なものであ るか 2013 年 10 月 14 日 手塚太郎 再生核ヒルベルト空間について、応用も含めて非常に分かりやすく説明しているのは以下の論文である。 Emauel Parzen, Statistical inference on time series by hilbert space methods, I., Technical Report No.23, Applied Mathematics and Statistics Laboratory, Stanford University, 1959. ただし上記論文は再生核ヒルベルト空間と同型なヒルベルト空間の例として、確率過程に相関を内積として定義し た空間を例として挙げ、そこから出発して説明する。具体的な例を通して学べるのは非常に分かりやすいけれども、 多少まわりくどい所もあ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
