世界で開発が進む大規模言語モデルとは（前編） | NTTデータ先端技術株式会社

1. 概要 近年、自然言語処理分野において、汎用的な大規模言語モデルの開発が世界中で活発に行われています。「汎用的な大規模言語モデル」とは、大規模なテキストデータを事前に学習し、わずか数例のタスクを与えただけでさまざまな言語処理タスク(文章生成、穴埋め問題、機械翻訳、質問応答など)を解くことができる言語モデルのことです。 (文章生成の汎用的な大規模言語モデルとしては、「GPT-3」が有名ですが、そちらの紹介は以下のコラムで行っておりますので、よろしければご参照ください。) コラム：自然言語処理モデル「GPT-3」の紹介：https://www.intellilink.co.jp/column/ai/2021/031700.aspx こうした中、2022年3月28日に、東京大学松尾研究所発のAI(人工知能)スタートアップである株式会社ELYZA(イライザ)は、キーワードから日本語の文章を生成

[mkusunok]

2022年7月の段階の分かりやすい整理。こうやって並べてパラメーター数だけで見るとGPT-3以外でもスゴいのが色々あるのね