きまぐれ日記: Yahoo!の形態素解析をMeCabで無理やり再現してみる
MeCabで形態素解析器を作りたい場合は以下の二つの言語リソースが必要です。 1. 辞書 (単語と品詞のペアの集合) 2. 入力文と、それに対応する正解出力ペア(正解データ) 現在公開している mecab-ipadic は、ipadicとRWCPコーパスという正解データを使っています。 ここから分かるとおり、少なくともMeCabを使う場合は、コスト値を丹念にチューニング するといった職人芸は要りません。形態素解析への入力文とそれに対応する(理想)出力 があればコスト値を機械学習的なアプローチで構築することができます。 さらに、正解データを人手で作る必要は必ずしもありません。 すなわち、Yahoo!の形態素解析器の出力結果を「擬似正解」とみなして MeCabの学習プログラムを走らせれば、Yahoo!の出力を高い精度で再現できる MeCab用辞書を作成することが原理的に可能です。 ふだんはあま
ユビキタスの街角 データ圧縮手法の応用
PPM (Prediction by Partial Matching)というデータ圧縮アルゴリズムがある。 一般に、あるデータ列が与えられているとき、次に来るデータを予測することができればデータ圧縮を行なうことができる。 データ列から判断して次に来るデータが「a」だと確実に判断できるときは「a」を記述する必要が無いからである。 PPM法では、既存のデータ列中の文字列出現頻度を計算することによってこのような予測を行なう。 たとえば「abracadab」というデータの次にどの文字が来るか予測する場合、 「a」は4回、「b」は2回出現している 「b」の後に「r」が続いたことがある 「ab」の後に「r」が続いたことがある ... といった情報を累積して確率を推定する。 この場合、 (3)から考えて次の文字は「r」である確率が高いが、 (1)も考慮すると「a」の確率もある、という風に計算を行なう。
NTTデータが全文検索エンジン｢Ludia｣をオープンソースとして無償公開：ITpro
NTTデータは10月11日，同社が開発した全文検索エンジン｢Ludia｣をオープンソース・ソフトウエアとして無償公開した。オープンソースのDBMS PostgreSQLに格納されたテキスト・データの全文検索を行う。同社では「商用のデータベース管理ソフトに匹敵する速度と精度を備える」としている。 NTTデータでは「データベース内のデータの全文検索ではこれまで，オープンソース・ソフトウエアでは日本語に対応した高速・高精度なものが存在せず，データベースからデータを取り出し別のシステムを構築する必要があった。Ludiaは商用のデータベース管理ソフトに匹敵する速度と精度を備える」としている。 Ludiaは，N-gramと形態素解析の2種類の全文検索インデックス方式をサポートする。ブーリアン検索，近傍位置検索，類似文書検索といった検索が可能で，検索結果の合致度を示す｢スコア｣も提供する。 Ludiaは
Conditional Random Field (CRF) Documentation
The CRF package is implemented by Prof. Sunita Sarawagi. The official homepage for this package is http://crf.sourceforge.net/. This documentation explains the usage of the package at the application level. People interested in implementation level details have to view javadocs for the package and source code itself. Following are the topics covered: Overview Using CRF for Sequential Learning Vari
Octave (in Japanese)
hits since 1999/1/5 Last modified Saturday, 03-Jun-2006 08:00:59 JST News!! Octave CGI ProjectOctave を CGI として使 用するための関数集を公開しました。 Octaveユーザの日本語によるメーリングリスト発足!! 苣木（ちさき)さんのWEBページを御覧下さい。 Why Octave ? あの高価な MATLAB とほぼ同等に使用できる数値演算言語です。さすがにMATLABにはかなわない (特に豊富な ToolBox やビジュアライゼーションには太刀打ちできない)面も 多いのですが、使いようによっては、MATLABより融通のきく非常に便利なソフ トウエアです。MATLABの m-file も、その多く(特にver.4.2時代のもの)は修 正なしで動いたりします。 私はMATLABのライセン
Octave
Parallel Octave The researches carried out at Intelligent Systems Science Laboratory will be taken over by Computer Structures Laboratory (Prof. Aoki). http://www.aoki.ecei.tohoku.ac.jp/octave/index.html It moves automatically 5 seconds passed. If it does not move aoutomatically, please click the above web page address.
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Google Releases Tesseract as Open Source - Slashdot
Octave基礎