![](https://cdn-ak-scissors.b.st-hatena.com/image/square/83aad89395d6a45c3b369574fd55cf5784d7079f/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JUU2JTk3JUE1JUU2JTlDJUFDJUU4JUFBJTlFQkVSVCVFMyU4MSVBQiVFNiU5NiVCMCVFMyU4MSU5NyVFMyU4MSU4NCVFNSU4RCU5OCVFOCVBQSU5RSVFRiVCQyU4OCVFMyU4MyVBNiVFMyU4MyVCQyVFMyU4MiVCNiVFOCVCRSU5RSVFNiU5QiVCOCVFRiVCQyU4OSVFMyU4MiU5MiVFOCVCRiVCRCVFNSU4QSVBMCVFMyU4MSU5NyVFMyU4MSVBNiVFMyU4MSVCRiVFMyU4MiU4QiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1jbGlwPWVsbGlwc2lzJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9NTRiOGIyMWVlMmRiNTdmNDQ2MzYwNDYyYjU2NDZiNGI%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwbV9fayZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTMyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9Y2NhNDI5OGU0MmUwYzIwZmYzODc4NjU2ZjkyYjIxM2U%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D33a61d90c63fd99b922d44e7910f72f1)
エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
日本語BERTに新しい単語(ユーザ辞書)を追加してみる - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
日本語BERTに新しい単語(ユーザ辞書)を追加してみる - Qiita
huggingface/transformersで扱える日本語BERT(cl-tohoku/bert-base-japanese-whole-word-masking)に新... huggingface/transformersで扱える日本語BERT(cl-tohoku/bert-base-japanese-whole-word-masking)に新しい単語を追加する方法を調べていたので、ここにメモしておこうと思います。 同じことで悩んでいる人に届けば幸いです。 参考 といっても、以下の内容をまとめているだけです。 https://github.com/huggingface/transformers/issues/1413 https://stackoverflow.com/questions/64669365/huggingface-bert-tokenizer-add-new-token 実装 Google Colab上で検証しているので、必要なライブラリをインストールしておきます。 !apt install aptitude swig !aptitude i