[チュートリアル講演] カーネルマシン
次へ: はじめに [チュートリアル講演] カーネルマシン 赤穂 昭太郎1 Shotaro Akaho s.akaho@aist.go.jp 概要: サポートベクタマシン (SVM) に代表されるカーネルを用いた学習機械について解説する． これらにほぼ共通しているのは，基本的に線形の学習機械の延長線上にあり， ローカルミニマムの問題などが少ないこと，それから，正則化を行うことにより 高い記述能力と汎化能力を両立していることが特長である． キーワード: サポートベクタマシン，正則化，スパースネス，数理計画法， 汎化 Kernel machines such as the support vector machine are reviewed. Most of them are not suffered from the local optimum problem, because they a
再生核ヒルベルト空間
Mercer カーネル はそれに対応する基底関数 と の内積で書くことができることは すでに述べた((2) 式)． ところが識別関数にでてくる についてはきちんと考えて いなかった． Mercer カーネルの定める特徴空間を数学的に考えると， 再生核ヒルベルト空間というものが得られる． 基底関数の線形和で書けるような関数の集合 を考え， その中の二つの要素 , を考えよう． 少しトリッキーであるが，これらの関数の間の内積を新たに次で定義する． これを(2)式の内積と区別するために 内積と呼ぶことにする． カーネル関数 自身, を固定すれば を係数とする の要素とみなせる． そこで，上記の との 内積を取ってみると という関係式が導かれる． これは， が の中で まるで 関数のように働くことを意味し， を再生するという 意味で再生核ヒルベルト空間 (RKHS)と呼ばれる． Shotaro A
FrontPage - カーネル法Wiki
カーネル法Wiki † このページで紹介するのは統計的な学習の話で出て来る、カーネル関数を使ったデータ解析法の話です。 linux カーネルとかのカーネルではありません，念のため。 カーネル法の代表格として SVM (サポートベクターマシン・サポートベクトルマシン)などがあります。 岩波書店「カーネル多変量解析」サポートページ 2008 年 11 月 27 日発売予定！ 赤穂によるカーネル法の解説記事 森北出版「学習システムの理論と実現」など コラム (朱鷺の杜ブログより) 外部リンク 朱鷺の杜Wiki, カーネルの説明 WikiPediaの解説 kernel-machines.org 赤穂昭太郎のホームページ
カーネルトリック | tabateeの日記 | スラド
「バイオインフォマティクスの数理とアルゴリズム」を斜め読みして、ようやくカーネルトリックが理解できたので概要を書いてみます。 入力のベクトルxと重みのベクトルyの内積x・yの正負で識別を行うとすると、これは法線ベクトルyを持つ超平面のどちら側にxがあるかの計算になります。一般の問題では平面で分割できないことが多いので、適当に大きな次元に射影して内積をとることを考えます。この射影をΦとし、内積を取る関数をKとするとK(x,y)=Φ(x)・Φ(y)という形になります。 ここでKとして適切な関数を持ってくるとKの計算だけやればΦの形を知る必要も無く別の空間での内積になっているという便利な話です。カーネル(K)としては、多項式カーネルK(x,y)=(x・y+c)^pやシグモイドカーネルK(x,y)=1/(1+exp(-βx・y))などが代表的とのことでした。 普通にググるといっぱい講義資料などが出
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Next Generation Color Filter Patterns Deliver Higher Quality Photos Under Low-Light Conditions
