
エントリーの編集

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
日本語自然言語処理で必須の前処理まとめ(Dockerによる環境構築込み) - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
日本語自然言語処理で必須の前処理まとめ(Dockerによる環境構築込み) - Qiita
この記事でやること 日本語文章で自然言語処理的なことをやる際に, アルゴリズム選択やパラメータチュー... この記事でやること 日本語文章で自然言語処理的なことをやる際に, アルゴリズム選択やパラメータチューニングと同等かそれ以上に重要となる前処理。丁寧に色々やりたいとは言え毎回ゼロから同じようなスクリプトを書くのも面倒なので, 毎回必ずやるであろう 全角・半角の統一と重ね表現(!!とかーーとか)の除去 HTMLタグの除去 絵文字の除去 URLの除去 記号の除去 数字の表記統一 分かち書き 見出し語化 あたりの処理を一発で済ませるために用意した自分なりの秘伝のタレを公開します。 ついでにMeCabの導入やJupyter lab環境の構築もDocker化できたので合わせて載せてます。 環境構築編 まずは以下のDockerfileを用意します。gensimやspaCyなど今回の前処理には使わないパッケージも入ってますがお気になさらず。 (2020/1/12追記) mecab-ipadic-neolo