楽天グループが大規模言語モデルを公開 Mistralベースの70億パラメータ 商用利用も可能

楽天グループは3月21日、日本語に特化した大規模言語モデル（LLM）「Rakuten AI 7B」などを公開した。フランスのAIスタートアップ・Mistral AIのLLM「Mistral-7B-v0.1」をベースに開発した70億パラメータのLLM。ライセンスは「Apache 2.0」で、Hugging Faceからダウンロードできる。商用利用も可能。 インストラクションチューニング（ファインチューニングの一種）済モデル「Rakuten AI 7B Instruct」と、このモデルを基にファインチューニングしたチャットモデル「Rakuten AI 7B Chat」も公開。いずれもライセンスは同じく、Apache 2.0。 どのモデルも、Mistral-7B-v0.1を基に、ネット上に存在する日本語と英語のデータによって繰り返し事前学習したという。使ったデータは、内製のフィルタリング機能や、

[misshiki]

“楽天グループは3月21日、日本語に特化したLLM「Rakuten AI 7B」などを公開。「Mistral-7B-v0.1」ベースで70億パラメータ。ライセンスは「Apache 2.0」で、Hugging Faceからダウンロードできる。商用利用も可能。”

[toaruR]

メルマガ支援LLMっすね！（違