まだ残ってた。
筆不精なので全然書いてなかった。というか、このブログの存在すら忘れてました。 機械学習の勉強中とか言いつつ、何も書いてないですね。ブログ開設から2年が経過していますが、その間の作業としては [ブログ開設当初]・ Averaged Perceptron （Perl モジュール）作成2値、多値分類、双対形式版では polynomial kernel が使える。キャッシュを用いて高速な学習が可能。主形式版はとりあえず早い。 [その後]・ オンライン学習で Logistic regression 作成系列ラベリングをやってみたくて、CRFの勉強として作ってみた。単純なGDで実装。 ・ Exponentiated Gradient Algorithms for Log-Linear Structured Predictionこれを読んでお勉強。 ・ EG で Logistic regression
Conditional Neural Fields on Google Code
CNF の著者の Jian Peng 氏に特許について質問をしてみたところ、問題ないということでしたので Google Code にプロジェクトを作成してコードを公開しました。 http://code.google.com/p/cnf/ あまりちゃんとした実装ではないので、使用は自己責任でお願いします。間違ってるかもしれないので、間違いがあれば教えてくれると嬉しいです。 mercurial で管理しているので、以下のコマンドで落としてきて使用できます。 $ hg clone https://cnf.googlecode.com/hg/ cnf $ cd cnf$ make$ ./src/cnflearn src/template data/conll2000/train.txt test.save$ ./src/cnftagger src/template test.save data/c
Conditional Neural Fields
年越ししてから既に２ヶ月が過ぎ、２月も終わりが見えかけてきた今日この頃です。 生存報告をかねて、少しだけ最近やっていた事を書いておきます。 去年の年末くらいに、面白そうな論文を見つけたのでそれを読みつつ、実装していました。 NIPS2009 で発表された論文です。 その名も Conditional Neural Fields 。http://books.nips.cc/papers/files/nips22/NIPS2009_0935.pdf 名前から何か感じるところの有る人もいそうですが、これはCRFに隠れ層を加えて、非線形にした物になります。 自分のメモ用に、先に簡単に CRF についておきます。 -- CRF の説明はNLP2006のチュートリアル資料が割と分かりやすいです。 http://nlp.dse.ibaraki.ac.jp/~shinnou/lecture/nl/NLP20
PLSV
以前書いた plsv の perl script を晒しておく。 勾配法には sgd を使用した。 行数は320行。 #!/usr/bin/perl # Probabilistic Latent Semantic Visualization # Copyright (c) 2009, Kei Uchiumi use warnings; use strict; # Usage # perl plsv.pl corpus our $dimension = 2; our $topicsize = 2; our $alpha = 0.01; our $beta = 0.0001; our $ganma = 0.0001 * $topicsize; our $docnum = 0; # document size N our $iteration = 50; # for sgd parameters
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
google sparse_hashmap を使ってみる