[B! LDA] ohnishiakiraのブックマーク

自然言語処理勉強会＠東京で発表してきました - 不可視点

勉強会のなかみはid:hamadakoichiさんががっつりまとめてださっていますのでそちらをご参照ください。第１回自然言語処理勉強会＠東京に参加してきたこの勉強会は@nokunoさんが発起人と思いますが以下のような範囲（形式）を対象としております。輪読形式（教科書を1章ずつくらい発表）論文紹介、手法紹介、ライブラリ紹介など実装してみました系、コードリーディング、ライブコーディング実験系、手持ちのデータに適用してみました系 ←今回ここを狙いました研究紹介、システム紹介、実務経験のシェアその他自然言語処理勉強会＠東京 | Google Groups 私はLDAを利用してつぶやきをタギングしてみようという「やってみた」系の発表をやらせてもらいました。発表資料 Tokyotextmining#1 kaneyama gentaView more presentations

ohnishiakira 2011/02/18

リンク

LDAのコードをC++で書いてみた - 旅日記

前回の記事で思ったより勉強になったので、調子に乗って再び id:tsubosaka さんのJavaで書かれたLDAの実装をC++で書いてみました。ベースとなる手法は同じく collapsed gibbs sampling(Griffiths and Steyvers, PNAS, 2004) です。動作確認は g++ 4.3.3 (Ubuntu 9.04) で行っています。ソースコードは前回のARROWよりかなり長くなってしまいました。今度から長い場合は github あたりにアップするかもしれません。 2010.01.08追記: pcomp.h のソースが抜けていたので追加しました。 2010.01.09追記: メモリのバグを修正しました。インストール g++ -Wall -O2 -c lda.cc g++ -Wall -O2 -c main.cc g++ -Wall -O2 -o l

ohnishiakira 2010/12/24

リンク

[機械学習] LDAのコードを書いてみた - tsubosakaの日記

昔書いたことがあったけど、どこかにいってしまったのでもう一度書いてみた。推論方法にはギブスサンプリングと変分ベイズの2つがあるけど、導出も実装もより楽なcollapsed gibbs sampling(Griffiths and Steyvers, PNAS, 2004)の方を採用。 Token.java package lda; public class Token { public int docId; public int wordId; public Token(int d , int w){ docId = d; wordId = w; } } LDA.java package lda; import java.util.*; public class LDA { int D; // number of document int K; // number of topic int

ohnishiakira 2010/12/24

リンク

https://jmlr.csail.mit.edu/papers/v3/blei03a.html

ohnishiakira 2010/12/24

LDA

リンク

Latent Dirichlet allocation - Wikipedia

In natural language processing, latent Dirichlet allocation (LDA) is a Bayesian network (and, therefore, a generative statistical model) for modeling automatically extracted topics in textual corpora. The LDA is an example of a Bayesian topic model. In this, observations (e.g., words) are collected into documents, and each word's presence is attributable to one of the document's topics. Each docum