タグ

ブックマーク / uchiumi.blogspot.com (3)

  • SHDCRF の実装をアップしておきました

    公開するかどうか悩んだのですが、公開することにしました。 http://code.google.com/p/uchumik/ 説明のスライドも slideshare にアップしています。 ただいまコンバート中なのでまたそちらは後ほど。 コンバート終わったようなので埋め込み。 何故か17ページ目の周辺化の式でΣが出なくなっている様子。 コンバートのエラーかな。 Shdcrf from uchumik スライドは元々 DSIRNLP#3 での 20 分の発表用に作ったため、CRF や Forward-Backward  アルゴリズム、 Viterbi アルゴリズムは聴衆者の方々が理解していることを前提としています。 なので、いきなり読んでも非常に分かりにくいものとなっています。 先に TokyoNLP で発表した CRF の資料を見てもらうと多少分かりやすくなるかと思います。 http://u

  • 実数素性テンプレートの使える CRF

    この間記事で書いた実数素性テンプレートを使える CRF を作ってみました。 google code 面倒くさかったのでだいぶコピペの目立つコードになってますが、その辺は勘弁。 テンプレートが文字列を扱うバイナリな値を取る場合(%x マクロを使うもの)ならば、素性関数 f_k(y_{i-1},y_i,X) は 1 or 0 を取る。テンプレートが実数を扱う場合(%r や SUM, MAX, Value, etc. )ならば、素性関数 f_k(y_{i-1},y_i,X) はテンプレートに書かれた演算結果の値 or 0 を取る。と、実数素性を使わない CRF からの変更点はそれだけです。 以下は動作確認のためだけのコード。 # include "rtcrflearn.hpp" # include "rtcrftagger.hpp" using namespace RtCrf; using na

  • まだ残ってた。

    筆不精なので全然書いてなかった。というか、このブログの存在すら忘れてました。 機械学習の勉強中とか言いつつ、何も書いてないですね。ブログ開設から2年が経過していますが、その間の作業としては [ブログ開設当初]・ Averaged Perceptron (Perl モジュール)作成2値、多値分類、双対形式版では polynomial kernel が使える。キャッシュを用いて高速な学習が可能。主形式版はとりあえず早い。 [その後]・ オンライン学習で Logistic regression 作成系列ラベリングをやってみたくて、CRFの勉強として作ってみた。単純なGDで実装。 ・ Exponentiated Gradient Algorithms for Log-Linear Structured Predictionこれを読んでお勉強。 ・ EG で Logistic regression

  • 1