OpenNLPでMeCabのような英語の形態素解析 - Qiita
概要 日本語の形態素解析(MeCab)のようなことを英語でもやりたいのでApache OpenNLPを使用する 環境 OS: Windows7 64bit 言語: Java8 IDE: Eclipse4.6.1 目的 MeCabをコマンドラインで使用すると 今日はいい天気ですね。 ↓ ↓ 今日 「名詞,副詞可能,*,*,*,*,今日,キョウ,キョー」 は 「助詞,係助詞,*,*,*,*,は,ハ,ワ」 いい 「形容詞,自立,*,*,形容詞・イイ,基本形,いい,イイ,イイ」 天気 「名詞,一般,*,*,*,*,天気,テンキ,テンキ」 です 「助動詞,*,*,*,特殊・デス,基本形,です,デス,デス」 ね 「助詞,終助詞,*,*,*,*,ね,ネ,ネ」 。 「記号,句点,*,*,*,*,。,。,。」 と形態素に分け、形態素の情報が表示される ※ipadic辞書を使用した場合、 「品詞、品詞細分類1
AWS Lambda でMeCabを動かす (2018年9月時点） - Qiita
概要 AWS LambdaでMeCabを動かそうと思ったら、思いのほか大変だったので今後の自分のために手順をまとめた。 （MeCabとは日本語の自然言語処理によく使われるオープンソースの形態素解析エンジン。詳しくは上記の作者のサイトへ。） 参考にさせてもらったサイト https://shogo82148.github.io/blog/2017/12/06/mecab-in-lambda/ http://marmarossa.hatenablog.com/entry/2017/02/03/223423 他にもたくさん「mecab lambda」で片っ端から検索かけて読み漁ったのだけど、もはやどこを読んだのかも覚えていない。上記二つの記事はとにかく作業スタートから完了するまでの間、ブラウザで開かれていた。 結論から述べると一番上の記事の通りにやればいいだけだったのだが、正直自分が次回この作業を
brew install mecab-ipadicでsyntax error - Qiita
2018/10/13版でbrewインストールを行ったところエラーが発生した。 環境はmacOS Sierra。 $ brew install mecab-ipadic Error: mecab-ipadic: /usr/local/Homebrew/Library/Taps/homebrew/homebrew-core/Formula/mecab-ipadic.rb:39: syntax error, unexpected << <<~EOS ^ /usr/local/Homebrew/Library/Taps/homebrew/homebrew-core/Formula/mecab-ipadic.rb:40: syntax error, unexpected tIDENTIFIER, expecting keyword_do or '{' or '(' ... enable mecab-
NEologdをUbuntuに入れようとしたらMakeエラーが出た。 - Qiita
ど素人がwindowsにMeCabをいれて遊びたいと思ったのだが、思いのほかハマったので記録として残したいと思います。 はじめに 基本的には、趣味でPHPとpythonを独学でいじくっている、初心者に毛が生えた程度の実力です。 間違いや効率的な方法などありましたら、どんどん教えてください。コードレビューも大歓迎です。 よろしくお願いします。 環境 windows10 home Anaconda3-5.3.0 windowsにMeCab投入 特に難しいことはなく、以下を参考にしながらインストール PythonとMeCabで形態素解析(on Windows) NEologd辞書を入れる。 NEologdを入れるためにはWindows Subsystem for Linuxがひつようなため、下記を参考にUbuntu環境構築 Windows Subsystem for Linuxをインストールして
Amazon SageMaker の Jupyter で MeCab-NEologd を使う - Qiita
概要 Amazon SageMaker の Jupyter Notebook ( Python3 ) で MeCab ／ NEologd を使うためのセットアップ手順です 基本は公式手順どおりですが、下記でエラー回避と便利設定を加えています 外部インターネットへ接続可能なノートブックインスタンスを使います 端的にはページ下部のライフサイクル設定だけ適用すれば使えます 手順 Install mecab ノートブックインスタンスの Jupyter をオープンし、Terminal から次を実行 （インストール作業を行う場所は任意、ここでは別途マウントした EFS を指定しています） $ WORK_BASE="/efs" $ MECAB_ROOT="${WORK_BASE}/mecab" $ cd ${WORK_BASE} $ git clone https://github.com/taku91
MeCab のユーザー辞書を作る（UniDic） - Qiita
自分用メモ。 環境 MeCab 0.996 と UniDic(ver. 2.1.2) をインストールした。 MeCabの設定ファイルを編集して、UniDicを使えるようにした。 参考 👉 MeCabとUNIDICをUbuntu 14.04にインストール - Yura YuLife MeCabの設定ファイルを編集して、語種を表示できるようにした。参考 👉 MeCab + Unidic を使って単語の語種（和語、漢語）を表示する - Qiita ゴール ユーザー辞書を作って解析に使えるようにする。 # 現状 $ mecab タルスキー タル タル タル タル-外国 名詞-固有名詞-人名-一般 固 スキー スキー スキー スキー-ski 名詞-普通名詞-一般 外 EOS
termextractを使って保持データから専門用語を抽出しmecabのユーザ辞書を作成する - Qiita
3.termextractで複合語を抜き出しユーザ辞書を作成する 先ほど作ったファイルをインプットファイルとしてtermextractに突っ込んでmecabのユーザ辞書を作成します。コストは後で計算するためここでは入れていません。面倒臭ければ1285,1285,5000など適当な数値にしておいてもいいかもしれません。 また、正しいかどうか分かりませんが、既に複合語としてmecabのシステム辞書に登録されている可能性も考慮して既にある複合語は省く処理も入れています。 （termextractの中身をよく理解していないので、もしかしたら必要のない処理かもしれません。。） #termextractを使ってmecabのユーザ辞書の作成を行う import MeCab import termextract.mecab import termextract.core import collection
COTOHA APIとMeCabの比較 - Qiita
普段は仕事の合間を縫って、趣味でボードゲームのAI開発や自然言語処理を嗜んでいます。 色々ネタが溜まってきているので備忘も兼ねて少しずつQiitaに書いていこうと思います。 今回の記事では自然言語処理の中でも形態素解析に焦点を当て、最近NTTコミュニケーションズからリリースされたというCOTOHA APIと、形態素解析で有名なOSSであるMecabとの解析特徴の違いについて書こうと思います。 形態素解析 言語処理を経験されてる方には当たり前かもしれませんが、まずは基本から。 形態素解析とは、日本語や中国語のように文中に切れ目が存在しない文を、形態素と呼ばれる意味のある最小単位に分割する解析のことです。 例えば「すもももももももものうち」という文は「すもも/も/もも/も/もも/の/うち」のように分割することができます。 また、単に分割するだけでなく、名詞・動詞などの品詞情報や、表記ゆれ・活用
形態素解析：韓国語：その2：mecab-ko ユーザ辞書作成 - Qiita
前回 の続き ユーザ辞書の作成のために専用のシェルが用意されている。 1. ユーザ辞書編集 READMEに書いてある通り、 まずはユーザ辞書CSVに単語を追加。 - user-dic/nnp.csv ：固有名詞用 - user-dic/person.csv ：人名用 - user-dic/place.csv ：場所用 2. シェル実行 シェルの中を見ればわかるが、内部でmecab-dict-indexを実行している。 まず、mecab-koのインストールパスを確認して、パスが異なる場合は修正する。 - readonly MECAB_EXEC_PATH=/usr/local/libexec/mecab + readonly MECAB_EXEC_PATH=/usr/local/Cellar/mecab-ko/0.996-ko-0.9.2/libexec/mecab/
【Python3】MeCabでテキストファイルから名詞を頻出順に抽出 - Qiita
やりたいこと Python3でMeCabを使ってテキストファイルから名詞のみを抜き出し、出現回数ごとにリストアップ コード全文 import MeCab import sys import re from collections import Counter # ファイル読み込み cmd, infile = sys.argv with open(infile) as f: data = f.read() # パース mecab = MeCab.Tagger() parse = mecab.parse(data) lines = parse.split('\n') items = (re.split('[\t,]', line) for line in lines) # 名詞をリストに格納 words = [item[0] for item in items if (item[0] not
形態素解析：韓国語：その1：mecab-koをインストール - Qiita
韓国語を形態素解析したいけど、 何がいいかなと探していたところ、mecab韓国語版を見つけました。 というのはもう2年前の話なのだが、それはさておいて。 mecab-koとは mecabを韓国語の形態素解析用に多少コードを改変しているようです。 Bitbucketにて公開されています。 https://bitbucket.org/eunjeon/mecab-ko/src/master/ 何をどう改変したのかはコミットログを見て、、、も、私は分かりません （README読む限りでは、空白文字の扱いが違うっぽい） ひとまずMacbook Airにインストールします。 - mecab-ko本体をインストール - 韓国語用辞書をインストール mecab-ko本体をインストール Macであれば、homebrewであっさりインストールできます。 といってもREADMEにソースコンパイルの手順書いてるの
Python Twitterからツイートを取得してテキスト分析(wordcloudで見える化) - Qiita
本投稿の内容 pythonでtwitterのつぶやきを取得してその内容を見える化します。 Twitterのツイートデータをtweepyを使用して取得してテキストに出力 MeCabを使用して形態素解析を行い、名詞、動詞、形容詞の単語を抽出してデータ分析(Wordcloudで見える化) Twitterの検索キーワードは 7月27日に開催された「Oracle Innovation Summit Tokyo 2018」のつぶやき ハッシュタグ「#oracleinnovation」を検索しました。 （7月27日にtwitterのデータは取得していたのですが、トラブル対応等で忙しかったので投稿がおくれました。。） 事前準備 準備は以下の４つを実施 １．Twitter APIを使用するためのアカウント申請と「Consumer API keys」、「アクセストークン」の取得 ２．tweepyのインストール
ニュース記事の分類を機械学習で予測する - Qiita
はじめに Pythonを用いて、ニュース記事の分類分けを教師ありの機械学習にかけて、未知の文章がどのニュース記事にあたるのかを予測する。ということをやってみました。 使うものとしては、 Mecab Gensim scikit-learnのSVM これらを利用しました。 また今回やるにあたり、主にMecabとGensimの利用の辺りを以下のサイトを参考（というよりもはやパクリ）に行ったので、まずはそちらの記事を見ていただいたらと思います。 scikit-learnとgensimでニュース記事を分類する gensimのコーパス操作 環境や各種ツールの説明 環境 OS : windows10 python : 3.6.6 ツール - Mecab : 0.996.1 - Gensim : 3.5.0 - scikit-learn : 0.19.1 Mecabの用意 Mecabは、普段pythonで
マルコフ連鎖を用いてなろう小説のタイトルを自動生成する - Qiita
概要 小説家になろう（通称：なろう）というサイトは、自分で小説を書いて公開できるというサイトであるが、なろうで公開されている小説タイトルは一般的に長く特徴的なものが多いとされています。そこで、文書生成の手段として有名なマルコフ連鎖を用いてなろう小説のタイトルの自動生成を行いました。 プログラム 1.title_correct.py : なろうのAPIを使ってなろう小説のタイトルを記録する 。 2.marcov.py : 1でできたテキストファイルからMeCabを用いて分かち書きを行いマルコフ連鎖のもととなるデータベースを作成しそこからタイトルを自動作成する。 タイトルを集める タイトルを集めるプログラムは「小説家になろう」の作品タイトルは、本当に長くなってるのか？ Pandasで確認しよう(https://qiita.com/dely13/items/5e949a384161c96
TwitterAPIとMeCabを使って「疲れ指数」測定器を作ってみる - Qiita
1. 何をするの？ 自分のツイートを解析して、「疲れ指数」を計算するような簡単なプログラムを作りながら、TwitterAPIとMeCabをサクッと試してみましょう。 ・TwitterAPIで自分のツイートを取得 ・MeCabでツイートを分かち書き（形態素ごとにリスト化） ・「疲」「しんどい」「眠」といった文字列がどれくらいあるかを出力する（「疲れ指数」） ちなみに、MeCabを使わずともTwitter APIだけで似たようなものは作れます。ではなぜMeCabを使うのかというと、例えば 「疲れた疲れた疲れた」 といったようなツイート（少し心配になりますね）を単にstrとして受け取って「疲」が含まれているかどうかを判断すると、値として１を返すのですが、MeCabを使うと 「疲れた」「疲れた」「疲れた」といった風に分かち書きしてくれるので、カウントが3になり、より正確な「疲れ指数」を計算できるよ
AWS SageMakerのノートブックインスタンスにmecabをインストールする - Qiita
概要 AWS SageMaker - AWSが提供するフルマネージドな機械学習サービス https://aws.amazon.com/jp/blogs/news/amazon-sagemaker/ mecab - 日本語の形態素解析エンジン http://taku910.github.io/mecab/ mecab-python3 https://pypi.org/project/mecab-python3/ https://github.com/SamuraiT/mecab-python3/blob/master/bindings.html 先月6月に東京リージョンが発表されたSageMakerですが、6月末にSageMakerを利用した機能をサービスにリリースしました。おそらく日本でもいち早く本番運用を開始したと思われます。 これから使う方々が多いかと思いますので、そのときのナレッジを
NLPエンジニアがDockerfileに書くことベスト3 - Qiita
個人的に、Dockerfileに書くことが多い3つの記述をメモします。ただし、ここでメモするのは一般的な「aptでのインストール」とか「pipでのインストール」のようなものではなく、パッケージマネージャでは対応できないことについて書きます。 キーワード: dockerfile MeCabのインストール dockerfile anacondaのインストール dockerfile emacsの設定 dockerfileの例 以下のリンクで私のdockerfileの例をアップロードしています。 https://github.com/sugiyamath/credibility_analysis/blob/master/Dockerfile 前提 このリストは、ベスト3の内容ではなく、dockerfileの前提です。 ユーザはrootとする。 nvidia/cuda:9.0-develのようなub
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
mecabの出力をpythonで整形 - Qiita
mecab-ipadic-neologdの辞書をアップデートする - Qiita
xubuntu18.04でmecab-ipadic-neologdを使えるようにする - Qiita
