新しい研究論文で、さまざまなAIシステムが「騙す方法」を学習していることが判明した。 研究によると、AIが人間を「体系的に誤った思い込みに誘導」して騙しているという。 これは詐欺行為から選挙の偽情報に至るまで社会にリスクをもたらすものだ。 AIは、我々がコードを書き、文章を書き、膨大な量のデータを合成するのを支援することで生産性を向上させている。そしてAIは今、我々を騙すこともできるようになった。 新たな研究論文によると、さまざまなAIシステムが「真実とは異なる結果を達成するため、他者に誤った思い込みを抱かせる」技術を体系的に学習しているという。 この論文では、メタ(Meta)のCICERO(キケロ)のような特定の用途のために開発されたシステムと、OpenAIのGPT-4のように多様なタスクをこなすように訓練された汎用システムの2種類のAIに焦点を当てている。 これらのシステムは正直である