機械学習(4) – スタンフォード大学の講義から | Synergy Marketing LAB BLOG

こんにちは、馬場です。 本番の講義終わりました！ あとは、この連載も完走します。今回は第7週、8週の内容です。 13. サポートベクターマシン 教師あり学習のオオトリは、SVM=サポートベクターマシンです。 SVM も ロジスティック回帰のように、分類をするアルゴリズムです。特徴は、「large margin classifier」と呼ばれるもので、 「境界線を引く場合、学習データより遠いところになるように引く」というものです。 また、「カーネル」を変更することにより、境界線の形が変わります。linear kernel の場合、境界線の形が直線になりますが、Gaussian kernel の場合は、境界線が複雑な形になりますので、ロジスティック回帰で高バイアスが原因でうまく分類できない場合はおすすめです。ただし、Gaussian kernel を選択した場合入力ベクトルが学習データの

[somemo]

“先生によると、変数が多いと真っ先に次元を減らそうと主成分分析をする人が多いらしいのですが、そんな人に先生が一言。 まずは、そのままの生のデータで学習してみよう。次元を減らすのはそのあと！”