カーネルトリックソフトマージン法を用いることで、線形分離可能でない場合に対しても線形しき い素子のパラメータを求めることができるようになる。しかし、ソフトマージン 法を用いたとしても、本質的に非線形で複雑な識別課題に対しては、必ずしも良 い性能の識別器を構成できるとは限らない。本質的に非線形な問題に対応するた めの方法として、特徴ベクトルを非線形変換して、その空間で線形の識別を行う 「カーネルトリック」と呼ばれている方法が知られている。この方法を用いるこ とでサポートベクターマシンの性能が飛躍的に向上した。それがサポートベクター マシンを有名にした大きな要因であると考えられる。 一般に、線形分離可能性はサンプル数が大きくなればなるほど難しくなり、逆に、 特徴空間ベクトルの次元が大きくなるほど易しくなる。例えば、特徴ベクトルの 次元が訓練サンプルの数よりも大きいなら、どんなラベル付けに対しても線形分 離可能
