rinna株式会社（本社：東京都渋谷区/代表取締役：ジャン"クリフ"チェン、以下rinna）は、日本語と英語のバイリンガル大規模言語モデルを開発し、商用利用可能なライセンス*1でオープンソースとして公開したことを発表します。さらに、対話形式のテキストを生成する対話言語モデル*1、テキストと画像のマルチモーダル入力を実現する画像対話モデル、長いテキストの入力を可能とする長期コンテキスト言語モデルも開発し、公開しました。 ■ rinnaのオープンソース活動 OpenAI社から提案された大規模言語モデル (Large Language Model; LLM) であるGPT (Generative Pre-trained Transformer) シリーズは、大量のデータから高速かつ高精度に大規模モデルが学習できるTransformerとテキストデータから自己教師あり学習を可能とする枠組みを採用し