Intelligence Architecture けんきうノート - SVMによる回帰ハードマージンやソフトマージンでは \(y_i\in\{+1,-1\}\) の2値判別問題を扱いましたが、SVMは \(y_i\in \mathbb R\) の場合の回帰（または関数近似）にも適用することができます。 問題を改めて書き直します。 \(l\) 個の入力ベクトル \( x_i \ (i=1,\ldots,l) \) と、各 \(x_i\) に対する値 \(y_i\) が学習データセットとして与えられたときに、この関係を近似する \(y=f(x)=wx+b\) を求めることを考えます。 もちろんこのような線形近似だけでなく、SVMと同様にカーネルを適用することで自然に非線形関数近似に拡張できます。 簡単に言えば誤差 \(|f(x_i)-y_i|\) をゼロにできればいいわけですが、 そもそも本質的に、回帰は完全一致を目指す問題ではありません。 まず、観測されるデータにはノイズがの
