再生核ヒルベルト空間をなんとなく理解する - Neon Lightsタイトルの通り再生核ヒルベルト空間を何となく理解する． 厳密ではないし，証明も書いていない． 僕はかなり忘れっぽいので，「わかんなくなったなー」と思ったときに見るメモ用． 問題 入力ベクトルを非線形写像によって高次元空間へ移して，その高次元空間上で別の入力ベクトルとの内積をとる． は内積． このとき，カーネルトリックというテクニックを使って，この内積を という感じで求めたい． の次元が非常に大きい場合（無限のときもある）は，内積は計算出来ないのだけど，上の式によって計算できるよ，という話． 準備 適当な入力空間上の集合: ．入力ベクトルとしてとが与えられているとすると． 適当な正定値カーネル: ．との関係は，となる（ようにしておく）． ここで，は，の関数とみなせるので，は，を関数空間（上の高次元空間つまり無限次元空間になる）に写像するものと考えることができる（パラメータによって関数が設計さ
