うそをつくし、実は計算も苦手──ChatGPTを使う前に知っておきたいこと5選

「ChatGPT」は、簡単に使えて、さまざまな要求に応えてくれる便利な生成AIだ。しかし、いくつか注意すべきこともある。本稿では、ChatGPTの本格的な運用を始める前に、最低限は把握しておきたいことを5つピックアップした。 （1）ChatGPTは知ったかぶりでうそを付く ChatGPTで生成されるテキストは、簡単に説明すると「その後ろにつながる可能性の高いテキストを並べる」という仕組みで生成される。そのため、学習時のデータのボリュームが少なかったり、誤情報が多いトピックについては、誤りが起こりやすい。 つまり、「情報としては間違った内容なのに、事実をチェックせずに読むと気付かないこともある“それっぽい文章”」が生成されやすい。そのため、生成AIで書いた文章に対しては、事実確認を怠ってはいけない。 このように生成AIが虚偽の情報を生成してしまう現象は、「ハルシネーション（Hallucina