寄稿 現代の人工知能と「言葉の意味」。そして記号創発システム。 谷口忠大(立命館大学教授、情報理工学) 1 言語を操る人工知能と「大規模言語モデル」 人工知能が記事を書いた。人工知能が小説を書いた。人工知能がとても自然な翻訳をした。人工知能が論文を要約した。人工知能が流暢な言い回しで受け答えをした。などなど、言語に関わる人工知能のニュースが世の中にあふれている。 言語理解は人工知能開発において残る最後のチャレンジの一つであると言われながら、素人目には「もう、ほとんど出来ているのではないか?」と思わされるような成功がこの五年ほどの間で続いてきた。これらの成功の多くはBERT[1]やGPT-3[2]を始めとする「大規模言語モデル」に基づいている。 [1] Devlin, Jacob, et al. "BERT: Pre-training of deep bidirectional transf