機械学習超入門IV 〜SVM(サポートベクターマシン)だって30分で作れちゃう☆〜 - EchizenBlog-Zwei
ニーズがあるのかさっぱりわからない機械学習超入門だけどひっそり続けていきたい。 前回は識別関数の基礎であるパーセプトロンの簡単な説明とPerlによる実装を解説した。実はこの時点でかの有名なSVM(Support Vector Machine、サポートベクターマシン)もほぼ完成していたのだ！というわけで今回はSVMをPerlで作ってしまうお話。 参考: これからはじめる人のための機械学習の教科書まとめ - EchizenBlog-Zwei 機械学習超入門 〜そろそろナイーブベイズについてひとこと言っておくか〜 - EchizenBlog-Zwei 機械学習超入門II 〜Gmailの優先トレイでも使っているPA法を30分で習得しよう！〜 - EchizenBlog-Zwei 機械学習超入門III 〜機械学習の基礎、パーセプトロンを30分で作って学ぶ〜 - EchizenBlog-Zwei さて
なんか3(仮名): TinySVM で足し算のテスト
svm関係は日本語のドキュメントが少な杉。 わけのわからない数式とかはいっぱいあるけど。 どうやって遊べばいいの? 実態(いったい)。 と、はてなマークが点滅しまくります。 一応、こんな風にしたら遊べました。 もしかしたら、間違っているかもしれませんけど、闇の中で迷っているよりはマシかな。 ぱくりインスパイヤ先 SVMlight MySVM に関する Tips TinySVM: Support Vector MachinesのサイトのBinary package for MS-Windowsからバイナリをダウンロードします。 んで、解凍すると、bin というディレクトリの中にプログラムが入っています。 svm_learn.exe 学習プログラム svm_classify.exe 分類プログラム 学習データを用意します。 svm.learn.dat というファイルに以下をコピペしてください。
DO++: 教師あり学習の比較
ICML2006に興味深い論文がありました。 "An Empirical Comparison of Supervised Learning Algorithm", Rich Caruana caruana and Alexandru Niculescu-Mizil [link] 90年代初め以降、数多くの画期的な教師あり学習が提案されてきましたが、どれがいいかを包括的に比較したことはあまりありませんでした （文書分類などでは、SVMとAda-boosting 強いねということだったのですが Sebastiani@ACM Survey 2002） 決着をつけようじゃないかということで、11の問題に対してハイパーパラメータも完璧にチューニングして、いろいろな分類器を比較しているみたいです。比較内容は精度や再現率やクロスエントロピーなど様々で、確率を直接出さないやつはsigmoid関数など単調
SVM比較の感想1 | 離散世界の連続思考
【コンピュータ】 IE7を入れてみました。 アルファベットや数字がアンチエイリアスされていて気持ち悪い。 切ってしまうか、日本語もClearType対応のものにするか迷う。 【研究】 SVM lightとlibSVMとTinySVMの比較実験。 データはlibSVMのサイトにあるDataSet。 結構手間がかかるので、まだやり足りない部分があるのですが、 一応いくつかやってみたときの感想。 機種としてはPen3 866MHz。Mem 512MB。OS SUSE Linux 10.0。 あと設定として二次の多項式です。 どうもScalingした後のlibSVMは精度は良くなるが、かなり時間がかかる。 しない場合はたまに精度が良くなるけれども、全体的には悪い。悪すぎるときもある。 SVM lightは逆にScaling後のlibSVMよりは速い。 そして精度もそこそこ。 特筆すべきなのがTin
SVM - 機械学習の「朱鷺の杜Wiki」
Freeware† mloss:linear-svm, mloss:support-vector-machines, mloss:svm, mloss:support-vector-machine SVM Software @ www.svms.org LIBSVM (C) Weka LibSVM (WLSVM) LIBLINEAR：大規模計算用，L1/L2損失 (C/C++) liblinear2scipy：pythonラッパー SVM perf, SVM light (C) Tree Kernels in SVM-light SVM python：pythonインターフェース Algorithm-SVMLight：perlインターフェース LaSVM：近似オンライン学習の利用による高速化 svmsgd @ Léon Bottou：確率的勾配降下法の利用 Pegasos AI-Categ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
