FOBOSを実装してみた(理論編) - Goto_youthKの徒然日記

■概要 利用可能な言語資源(Wikipedia, GSK Corpus, Google N-gram Corpusなど)が急激に拡大してきており、これに伴ってより多くの言語データを扱えるようになったことで統計的機械翻訳の翻訳精度は急激に上昇してきています。一方で，大量に保存されてきた言語資源を利用するデータマイニングなどで機械学習と呼ばれる技術が扱われるようになってきました。このような分野において、シンプルな線形識別モデルと凸最適化を組み合わせたオンライン学習により、大量のデータを利用した高速な学習と識別が可能になることが分かり、近年になって注目されるようになってきました。 ここでは、オンライン凸最適化アルゴリズムとして有名なFOBOSについて説明していきたいと思います。 ■はじめに そもそもこのブログを書こうと思ったきっかけは、大学の講義で 「オンライン凸最適化アルゴリズムの最近の手法(