タグ

ブックマーク / chasen.org/~daiti-m (3)

  • mots quotidiens.

    NAACL/HLT 2009に出る予定の論文, "Global Models of Document Structure Using Latent Permutations" [pdf] [code] が面白そうだったので, 読んでみた。 若干仮定が強すぎたりする面はありますが, 興味深い話で, 理解を深めるためにこの場所を使って整理。 これは一言で言うと, 潜在トピックの表れる順序に一般化Mallows Modelを 仮定して文書構造を表現する, という話で, 実は自然言語処理一般に 有益な可能性がある話だと思う。 Mallows Modelが順序の確率分布だということは前から知っていたものの, ランキングの研究をしているわけではないので, 自分にはとりあえず関係ないと思ってこれまでスルーしていた。 Barzilayのグループは以前から文書構造の研究をしていますが, 今回は新しい話で,

  • mots quotidiens.

    大羽さんのベイズ掲示板で, Dirichlet Process のいい資料がないですか, と 聞かれている ので, コメント。 僕もそんなに偉そうなことを言えるわけではないのですが, Dirichlet Process については色々スライドの類がありますが, それを見ても 結局数学的な部分はよくわからないと思うので, 地道に論文を読むのが正道だと 思います。DPについては, まず最初の論文である Ferguson (1973) A Bayesian Analysis of Some Nonparametric Problems, The Annals of Statistics,Vol.1, No.2, 1973. と Antoniak (1974) Mixtures of Dirichlet Processes with Applications to Bayesian Nonpara

    ttpooh
    ttpooh 2007/06/14
    Dirichlet Processへの道のり。測度論かぁ・・・orz
  • Bayesian Sets - mots quotidiens.

    Bayesian Sets (Ghahramani and Heller, NIPS 2005)は Google Sets と同じようなことをベイズ的に行うアルゴリズムです。 いくつかアイテムを入れると, それを「補完する」ようなアイテムを 返してくれます。 これは NIPS の accepted papers が出た去年の8月から気になっていて, 会議ではオーラルの発表もあって大体のやっていることはわかった ものの, 何と(会議の時も!)論文がなく, 直接Hellerに連絡して もらえるように頼んでいたところ, Online proceedings の締切りがあった 時に連絡があって, 読めるようになりました。(リンクは下のページ参照) 岡野原君に先に 紹介 されてしまいましたが, 以下は, 岡野原君が書いていない話。 Bayesian Sets は, アイテム集合 D に対して,

    ttpooh
    ttpooh 2007/01/26
    アイテムとアイテム群の相互情報量で類似度求める。素性がバイナリだとベクトル内積に帰着。でもVSMと同様重ね合わせの問題があり、それに対する考察。
  • 1