国立研究開発法人情報通信研究機構(NICT(エヌアイシーティー)、理事長: 徳田 英幸)は、ユニバーサルコミュニケーション研究所データ駆動知能システム研究センターにおいて、独自に収集した350 GBの日本語Webテキストのみを用いて400億パラメータの生成系の大規模言語モデルを開発しました。今回の開発を通し、事前学習用テキストの整形、フィルタリング、大規模計算基盤を用いた事前学習等、生成系の大規模言語モデル開発における多くの知見を得ました。現在は、更に大規模な1,790億パラメータの生成系大規模言語モデル(OpenAI社のGPT-3と同等規模)の学習を実施中で、また、学習用テキストの大規模化にも取り組んでいます。今後、共同研究等を通して民間企業、国研、大学等と協力して、日本語の大規模言語モデルの研究開発や利活用に取り組む予定です。 NICTでは、これまでWebページを収集し、インターネット
![日本語に特化した大規模言語モデル(生成AI)を試作|2023年|NICT-情報通信研究機構](https://cdn-ak-scissors.b.st-hatena.com/image/square/bdd81256c80fc2e5761306904a7c8cd02c0502cf/height=288;version=1;width=512/https%3A%2F%2Fwww.nict.go.jp%2Fpress%2F2023%2F07%2Fimg%2F20230704-01r2.png)