線形回帰、カーネル線形回帰をRで実装する - Loud Minorityhttp://d.hatena.ne.jp/sesejun/20090401/p1 で紹介したカーネル多変量解析本の続き。 演習があるべきだ、と言ったが一般にカーネル法だと、与えられた点の数だけ次元を持つ正方行列を扱うので、演習を作っても手で解くのがつらい。だから、こんな風にソースコードを入れてみるのは、どうかと思ったので、このエントリを書いてみた。 線形回帰からカーネル線形回帰までをRで書いてみる(行列扱うのが楽なので）。式番号は、カーネル多変量解析の本に出てくる式番号である（まだ式番号をつけていないところが多いので、後日つけます付けました。2009/4/3）。 まずは単なるXYプロット。正規分布を鋭角にした感じの点20個。図1.3(P9)の点を真似た。 x1 <- c(-2,-1.69,-1.5,-1.3,-1.1,-0.9,-0.7,-0.48,-0.42,-0.05,0.09,0.
