Structured Output Prediction - nobuyukishimizuの日記
structured output predictionで、重要そうな論文リストをあげます。 Michael Collins の Voted Perceptron http://people.csail.mit.edu/mcollins/papers/tagperc.ps http://people.csail.mit.edu/mcollins/publications.html Max Margin Perceptron と、structured problemへの応用 http://jmlr.csail.mit.edu/papers/volume7/crammer06a/crammer06a.pdf http://www.seas.upenn.edu/~ryantm/papers/nonprojectiveHLT-EMNLP2005.pdf SVM struct 系 http://tt
最近のBayesian Methods - nobuyukishimizuの日記
Clustering 系の Bayesian Methods HLT の Tutorial が非常に面白かったので紹介します。 http://bayes.hal3.name http://www.isi.edu/~hdaume/bayes/hlt-slides.pdf HLT 2004 の tutorial はここ。 https://ssli.ee.washington.edu/~bilmes/bilmes_hlt04_tutorial/bilmes_tutorial.pdf これらのモデルで、何が難しいかというと、Hidden Variableがふたつ以上隣にあり、関連があるために、推定しにくいのが問題だそうです。 だから分布が指定してあっても簡単に計算できない。 前に出てきたTutorial (non-parametric bayes)は、 このtutorialの延長線上にあります。
自然言語処理、task & corpus - nobuyukishimizuの日記
機械学習を評価するにあたって、応用問題に落としてテストすることも重要です。 個人で参加できるような、お金がかからない自然言語処理のデータセットはないかと思って探してみました。 CoNLL Shared Task http://ilps.science.uva.nl/~erikt/signll/conll/ TREC http://trec.nist.gov/ PKDD、SPAM分類問題 http://www.ecmlpkdd2006.org/challenge.html GINEA http://www-tsujii.is.s.u-tokyo.ac.jp/GENIA/ i2b2 http://www.i2b2.org/NLP/ William Cohen's webpage http://www.cs.cmu.edu/~wcohen/ Shared Taskは、通常、参加する旨をメールで送
Semi-supervised Learning - nobuyukishimizuの日記
一部で有名になっています。 目的となる学習と、correlationがある別の学習を同時に行なうことで、データの構造を利用してsemi-supervised learning ができる、という論文です。 Ando & Zhang http://www-cs-students.stanford.edu/~tzhang/papers/jmlr05_semisup.pdf それから、Semi-Supervised Learning Literature Surveyも付け加えておきます。 http://www.cs.wisc.edu/~jerryzhu structured output 向けの semi-supervised learning。 http://ttic.uchicago.edu/~altun/pubs/AltMcABel-NIPS05.pdf あらかじめk-NNで作ったmatr
分類問題 - nobuyukishimizuの日記
今回は Classifier (分類器)についての歴史です。 前回は、Model, Optimization, そして、Featureの話でした。 この三つを知らないと話がわからないので注意。 ふたたび、x を見て、y を予測したいとします。 例えば、x はパスポートの写真。 y は性別とします。 まず、x を数字の行列で表すとします。 高校のときに習ったベクトルです。 デジタルイメージの写真で、360*360の大きさなら、パスポートの写真は、360*360次元の空間の一点である、という感じに x のデータを数字に落とすことができます。 この x が生きる世界が Feature Space. 次元ひとつが Featureに対応します。 まあ、こんな感じで、ベクトル空間の一点としてサンプルを表すことができます。 さて、男と女を分類するにはどうするか。 歴史上のブレイクスルーが、いくつかありま
HLT, COLT, ICML, Coling-ACL, EMNLP - nobuyukishimizuの日記
HLT, COLT, ICML, Coling-ACL, EMNLPで、機械学習の視点から見て大事そうだな、と思った論文について書きます。 自然言語処理の分野で使えそうな structure のある話にバイアスがかかっているので悪しからず。 他にも良い論文はいっぱいありました。 ======= undirected graphical modelについては、近似を使って undirected graphical model を速く学習する方法についての論文が大事そうでした。 Quadratic Programming Relaxations for Metric Labeling and Markov Random Field MAP Estimation http://www.icml2006.org/icml_documents/camera-ready/093_Quadratic_P
NIPS2006 ＆ 自然言語処理 - nobuyukishimizuの日記
NIPS 2006で、自然言語処理に使えそうな論文のリストです。 Scalable Discriminative Learning for Natural Language Parsing and Translation http://books.nips.cc/papers/files/nips19/NIPS2006_0873.pdf Training Conditional Random Fields for Maximum Parse Accuracy http://books.nips.cc/papers/files/nips19/NIPS2006_0891.pdf Learning to Model Spatial Dependency: Semi-Supervised Discriminative Random Fields http://books.nips.cc/paper
機械学習 - nobuyukishimizuの日記
しばらく、資料集の紹介だったので、ここらへんで専門に勉強しない人に向けた機械学習についての解説をすこしだけします。 主なタスクは、以下の様なものです。 (1) Supervised 訓練用にサンプルを用意して、機会に学習させた後、テスト用の別なサンプルでどれぐらい学んだかをテストします。 教師が必要で、通常人間が訓練用サンプルを準備します。 Classification (分類) あらかじめ決めておいたカテゴリーに、サンプルを分類します。 Regression サンプルごとに、数字を予測します。 (2) Unsupervised 訓練用のサンプルを必要としないタスク。 教師なし。 Anomaly Detection めずらしいサンプル、ほかと違うサンプルを見つけます。 Clustering サンプルがどのように分類できるか、カテゴリーを発見します。 Summarization ＊注意 デー
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
