![](https://cdn-ak-scissors.b.st-hatena.com/image/square/cc616aba7662bbefbfc08d44dc39e478319fb1a4/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Fadvent-calendar-ogp-background-f625e957b80c4bd8dd47b724be996090.jpg%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9U3dhbGxvdyVFMyU4MSVBRiVFMyU4MCU4RSVFOSU5QiVBQSVFNSU5QiVCRCVFMyU4MCU4RiVFMyU4MSVBRSVFNSU4NiU5MiVFOSVBMCVBRCVFMyU4MiU5MiVFMyU4MSVBOSVFMyU4MSU4NiVFMyU4MyU4OCVFMyU4MyVCQyVFMyU4MiVBRiVFMyU4MyU4QSVFMyU4MiVBNCVFMyU4MiVCQSVFMyU4MSU5OSVFMyU4MiU4QiVFMyU4MSVBRSVFMyU4MSU4QiZ0eHQtY29sb3I9JTIzM0EzQzNDJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1jbGlwPWVsbGlwc2lzJnR4dC1hbGlnbj1sZWZ0JTJDbWlkZGxlJnM9MGNkMGRhOGRkMGQyNDcwMzdlMTU1MzM3NGI1N2UzMmE%26mark-x%3D142%26mark-y%3D151%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwS29pY2hpWWFzdW9rYSZ0eHQtY29sb3I9JTIzM0EzQzNDJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTMyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9YzY3MzQ3MmIxZGZhMjFjMzNmZDViNDA4ODAyOWFmNmQ%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3D55244ad1263f47c002a81a6d4511533c)
エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Swallowは『雪国』の冒頭をどうトークナイズするのか - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Swallowは『雪国』の冒頭をどうトークナイズするのか - Qiita
日本語に強い大規模言語モデル「Swallow」が12月19日に公開された。私(安岡孝一)にとっても、うれしいク... 日本語に強い大規模言語モデル「Swallow」が12月19日に公開された。私(安岡孝一)にとっても、うれしいクリスマス・プレゼントだ。東工大ニュースによれば、以下のような特長があるらしい。 研究チームはLlama 2のトークナイザに16,000件の日本語のトークンを追加することで、日本語テキストのトークン長を56.2%に削減した。 すばらしい。Swallow-7b-hfを、ちょっと試してみよう。 >>> from transformers import AutoTokenizer >>> tkz=AutoTokenizer.from_pretrained("tokyotech-llm/Swallow-7b-hf") >>> print(tkz.convert_ids_to_tokens(tkz("国境の長いトンネルを抜けると雪国であった。","夜の底が白くなった。")["input_ids