ChatGPTの頭のなかをのぞき見る

「この小説の続きを考えて」「英文を和訳して」「新商品のアイデアを出して」──ChatGPTは，人間のあらゆる無茶振りにまじめに答えてくれる対話型AIだ。ユーザーによって色々な使い方が考案され，「こんな使用法がある」「AIがこんな回答を返してきた」といった話が日々のニュースやSNSを賑わせている。 しかし，このAIが最も興味深い姿を見せてくれるのは，人間の質問にうまく答えられた時ではなく，間違った回答をした時だ。数学の問題を解かせると，ChatGPTは人間がまずしないような，妙な間違い方をすることがある。突然しれっと「もっともらしいウソ」をつき，文章の文法構造を問うととんちんかんな答えをする。 実は，ChatGPTはネット上にある大量のテキストを読み込んで文章中の単語と単語の関係性を学習しているだけで，四則演算をはじめとした数学や，国語の文章の読解方法といった個々の知識体系を一切教えられてい

[tokyocat]

“ただ，AIが習得した数学や国語の知識は，どうも人間が知っている数学や国語のそれとは違うようだ”