開発メモ: WikipediaのN-gram頻度DBを作る
Wikipedia英語版の本文中に出てくる単語の5-gramまでの組み合わせの頻度を数えてみた。全部で10億N-gramくらい処理した。 背景 英和辞書の収録語を選定するにあたり、単語N-gramの出現頻度を知っておくことが重要だ。前回の記事ではCOCA（Corpus of Contemporary American English）のN-gram頻度DBを利用したが、その他の選択肢も検討してみたい。COCAは口語とフィクションと雑誌と新聞と学術論文をバランスよく選定していると主張していて、確かに俺が知っているような英単語・熟語は大抵網羅されている。が、コーパス自体を自分で入手して前処理できると各種のチューニングができて嬉しいこともあるだろう。 で、簡単に手に入る大量のコーパスといえば、Wikipediaの記事である。Wikipediaの方が偏りがひどいという話もあるが、一般人が書く英語と
MongoDBを使ってみたメモ - nokunoの日記
MongoDBの勉強会に行ってきたので、せっかくなのでWikipedia N-gramのデータをインポートして遊んでみました。MongoDB第1回 MongoDB JP & CouchDB JP 合同勉強会 in Tokyo : ATNDmkdir db./mongod --dbpath db &./mongoimport -h localhost -c ngram --type tsv -f ngram,freq --file unigram.txt./mongoimport -h localhost -c ngram --type tsv -f ngram,freq --file bigram.txt./mongoimport -h localhost -c ngram --type tsv -f ngram,freq --file trigram.txt./mongo> db.ngr
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Google Labs - Books Ngram Viewer
Wikipediaによるテキストマイニング入門 - nokunoの日記
Wikipediaから作成したN-gramデータを公開しました - nokunoの日記
