最大マージン kNN と SVM の関係: kNN も最近はがんばっています - 武蔵野日記
先日書いた機械学習における距離学習の続き。 kNN (k-nearest neighbour: k 近傍法)は Wikipedia のエントリにも書いてある通り、教師あり学習の一つで、あるインスタンスのラベルを周辺 k 個のラベルから推定する手法。memory-based learning と呼ばれることもある。単純に多数決を取る場合もあれば(同点を解決する必要があるが)、近いインスタンスの重みを大きくする場合もあるのだが、いずれにせよかなり実装は単純なので、他の機械学習との比較(ベースライン)として使われることも多い。 簡単なアルゴリズムではあるが、1-NN の場合このアルゴリズムの誤り率はベイズ誤り率(達成可能な最小誤り率)の2倍以下となることが示されたり、理論的にもそれなりにクリアになってきているのではないかと思う。また、多クラス分類がちょっと一手間な SVM (pairwise に
Jubatus使ってみた 作ってみたJubatus
2. 概要 使ってみた ミドルウェアとして利用するにあたり各機能を検証 今回は0.5.0で追加された機能について、精度・性能を紹介 - 近傍探索機能 - クラスタリング機能 ここはなんとかならないか 作ってみた とある機能をJubatusをフレームワークとして利用して実装 フレームワークとしての利用法を紹介 ここはどうにかならないか 対象バージョン：Jubatus 0.5.4 本発表の内容は、0.6.0にも基本的には適用できる、はず 1 3. 近傍探索機能の特徴 三つの手法を利用可能 MinHash - 集合としての類似度（Jaccard index）を近似 - ただし実数値も投入可能 LSH (Locality Sensitive Hashing) - 特徴ベクトル同士のコサイン距離を近似 Euclid LSH - ハッシュ値に加え
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - suhara/bit_knn: Yet another k-NN implementation with bit vector + popcnt
