タグ

ベイズに関するcomet53pgのブックマーク (7)

  • ナイーブベイズ再考 - kogelab::memo

    ナイーブベイズは単純ベイズともいうそうな.ナイーブのウムラウトが気になるのかね. さて,以前非常に冗長な表現でナイーブベイズを説明しましたが, 今度はシンプルに,実装したときに思ったことなどを. 昨日は休日だったので,遊びでComplement Naive Bayesも組みました. こいつは補集合を使うナイーブベイズです. さて,ナイーブベイズはこんなposteriorを推定する問題でした. 1.priorをどうしよう 上の式で言えば,p(class)のところ.他の人たちはどういう設定をしているのか気になった. 軽く調べたところ,実装のためになりそうな記述はあまりありませんでした. 集合知プログラミング 作者: Toby Segaran,當山仁健,鴨澤眞夫出版社/メーカー: オライリージャパン発売日: 2008/07/25メディア: 大型購入: 91人 クリック: 2,220回この商品を

    ナイーブベイズ再考 - kogelab::memo
  • NaiveBayesをRubyで書いてみた - シリコンの谷のゾンビ

    前回Perlで書いたMultivariate Berounoulli Naive BayesをRubyで書いた.多重ハッシュがうまく動かず断念.寝て起きて手直ししたらすぐに動いた.謎.さすがRuby,見た目が綺麗(コードは汚いが).Rubyできちんと?プログラミングするの初めてなので,思ったこと 多重ハッシュを使う際にハッシュの初期化が面倒(テクを知らないだけ?) オブジェクト指向だとどうしてもクラスキャストをしたくなる,入門書には書いてないぞ to_fしないと勝手に切り捨て.Perlに慣れていたのではまった エラーがわかりづらい コンストラクタinitializeはどう考えてもtypo量産だろう(事実すでに2回これではまった) はい,どれも自分の修行不足によるものです. Hash.new(0)のようにハッシュの初期値を決めておけるのはかなり便利だけれど,どのクラスのインスタンスなのかを意

    NaiveBayesをRubyで書いてみた - シリコンの谷のゾンビ
  • 新はてなブックマークでも使われてるComplement Naive Bayesを解説するよ - 射撃しつつ前転 改

    新はてブ正式リリース記念ということで。もうリリースから何週間も経っちゃったけど。 新はてなブックマークではブックマークエントリをカテゴリへと自動で分類しているが、このカテゴリ分類に使われているアルゴリズムはComplement Naive Bayesらしい。今日はこのアルゴリズムについて紹介してみる。 Complement Naive Bayesは2003年のICMLでJ. Rennieらが提案した手法である。ICMLというのは、機械学習に関する(たぶん)最難関の学会で、採択率はここ数年は30%を切っている。2003は119/371で、32.1%の採択率だったようだ。 Complement Naive Bayesの位置づけは 実装が簡単 学習時間が短い 性能もそこそこよい という感じで、2003年段階にあっても、絶対的な性能ではSVMに負けていた。しかし、学習が早いというのは実アプリケーシ

    新はてなブックマークでも使われてるComplement Naive Bayesを解説するよ - 射撃しつつ前転 改
  • ベイジアン (bayesian)、ベイズ (bayes)、ナイーブベイズ (naive bayes) ってなんですか? [POPFile Documentation Project]

    ベイジアン (bayesian)、ベイズ (bayes)、ナイーブベイズ (naive bayes) ってなんですか? ベイジアン (bayesian)、ベイズ (bayes)、ナイーブベイズ (naive bayes) という言葉は、POPFile や類似のメールフィルターの議論においてよく使われます。これらはたいていの場合、数学の公式のことを言っています。 Thomas Bayes は 1700 年代に確率論を研究した人で、彼の業績は ベイズ統計(Bayesian Statistics)として知られています。そして、この方法は、最近メールフィルタリングの分野でよくとりあげられるようになってきました。それはグループの異なるメッセージを分類するのに非常によい成績を発揮するからです。 POPFile はベイズの定理を用いて、あるメールが work、personal、spam のどのバケツに分

    ベイジアン (bayesian)、ベイズ (bayes)、ナイーブベイズ (naive bayes) ってなんですか? [POPFile Documentation Project]
  • ナイーブベイズを用いたテキスト分類 - 人工知能に関する断想録

    今までPRMLを読んで実装を続けてきましたが、10章からは難しくて歯が立たなくなってきたのでここらで少し具体的な応用に目を向けてみようと思います。機械学習の応用先としては画像の方が結果を見ていて面白いんですが、当面は自然言語処理を取り上げます。そんなわけで一番始めの応用は機械学習と自然言語処理の接点として非常に重要なテキスト分類(Text Classification, Text Categorization)の技法たちを試していきたいと思います。テキスト分類は文書分類(Document Classification)という呼び方もあります。テキストと文書は同じ意味です。最初なので自分の知識の整理と入門者への紹介のためにちょっと丁寧にまとめてみました。 テキスト分類とは テキスト分類とは、与えられた文書(Webページとか)をあらかじめ与えられたいくつかのカテゴリ(クラス)に自動分類するタス

    ナイーブベイズを用いたテキスト分類 - 人工知能に関する断想録
  • anney's room - ぷめも - ベイズの定理

    2010-05-22 perl 2010-05-08 svn 2010-05-03 ベイズの定理 トップ trac 2010-04-19 UNIXコマンドとか 2010-03-20 CCNA 2009-06-28 DNS 2009-04-15 User-Agent 2009-01-13 UTF-16BE Malformed perl XS 2008-08-22 PHP 2008-08-08 GIF 2008-08-07 ユークリッド距離 2008-07-23 用語 2008-07-22 c 2008-07-21 InterWikiName RecentDeleted 2008-07-19 Ruby へなちょこコーディング規約 ベイズの定理 † P(A|B) = P(B|A) P(A) / P(B) P(A|B) = P(A∧B) / P(B) Bが起きる条件での、Aが起きる確率は… Aが起

  • Algorithm::NaiveBayes

    NAME Algorithm::NaiveBayes - Bayesian prediction of categories SYNOPSIS use Algorithm::NaiveBayes; my $nb = Algorithm::NaiveBayes->new; $nb->add_instance (attributes => {foo => 1, bar => 1, baz => 3}, label => 'sports'); $nb->add_instance (attributes => {foo => 2, blurp => 1}, label => ['sports', 'finance']); ... repeat for several more instances, then: $nb->train; # Find results for unseen instan

    Algorithm::NaiveBayes
  • 1