ELYZA-Japanese-Llama-2-7b ELYZA-Japanese-Llama-2-7bは、ELYZAが公開した日本語に特化したLLMです。 公開されたのは以下のモデルです。 ELYZA-japanese-Llama-2-7bELYZA-japanese-Llama-2-7b-fastELYZA-japanese-Llama-2-7b-instructELYZA-japanese-Llama-2-7b-fast-instruct instruct:instruction tuningによって追加学習されたモデル。 fast:日本語の語彙の追加によって処理を高速化したモデル。 モデルの概要 ELYZA-japanese-Llama-2-7bはLlama2をベースとして日本語処理の性能を向上させるために追加学習したモデルです。英語で学習済みのLLMの言語能力を引き継ぐことで、少な
![日本語LLMにおけるトークナイザーの重要性 | データアナリティクスラボ](https://cdn-ak-scissors.b.st-hatena.com/image/square/e9a854b2efbc00139492c1267cfc0c649c3b768a/height=288;version=1;width=512/https%3A%2F%2Fdalab.jp%2Fwp-content%2Fuploads%2F2023%2F09%2Ftokenizer_1-300x300.png)