[B! cnf] syou6162のブックマーク

syou6162 id:syou6162

cnfに関するsyou6162のブックマーク (2)

a hybrid markov/semi-markov cnf
名前だけ知りつつもどんな物なのか知らなかったので、5月に semi-markov crf の論文を読んでみました。 semi-crf は入力系列に対する最適なセグメンテーションを学習する学習器です。 crf が P(Y|X, W) を求めていたのに対して、semi-crf では P(S|X, W) を推定します。文章で書くと、2つの違いは * crf では入力系列 X に対して生成されうるすべてのラベル系列 Y' に対して、正解系列とそれ以外の系列を弁別するよう学習する * semi-crf では入力系列 X に対して生成されうるすべてのセグメンテーション結果 S' に対して、正解のセグメンテーションとそれ以外のセグメンテーションを弁別するよう学習するということになります。 semi-crf では入力系列が与えられた際に、t_j , ... , u_j までを1つのセグメント s_j
syou6162 2010/07/10
crf

cnf

NLP
リンク
■ - あしたからがんばる ―椀屋本舗
昨日はまた黒橋研と勉強会。今回はCRF＋CNF。CRFは少し前NLPで流行ったのでみんな知っていると思うけど、Conditional Random Fields（条件付き確率場）のこと。CRFはHMMなどの生成モデルと比較して識別モデルと呼ばれ、HMMの問題である、独立ではない事象をパラメータに含むということができる。これは、入力をx,ラベルをyとするときに、P(y|x)を直接推定することでxからのyの予測を直接的に行う、ということに起因している。HMMなど普通の言語モデルではP(y,x)=P(y|x)P(x)を考えるため、P(x)の学習データを大きくしなければエルゴード性が保証されず、学習がうまくいかない。つまり、CRFはHMMよりも少ない学習で適切な識別が行えるようになるため、識別という点においてはHMMよりも優秀、ということだろうか。これは形態素解析のように、問題をある入力に対するラ
syou6162 2010/07/07
crf

cnf
リンク
1