AIは人間を騙す方法を学習した…最新の研究論文で明らかに

新しい研究論文で、さまざまなAIシステムが｢騙す方法｣を学習していることが判明した。 研究によると、AIが人間を｢体系的に誤った思い込みに誘導｣して騙しているという。 これは詐欺行為から選挙の偽情報に至るまで社会にリスクをもたらすものだ。 AIは、我々がコードを書き、文章を書き、膨大な量のデータを合成するのを支援することで生産性を向上させている。そしてAIは今、我々を騙すこともできるようになった。 新たな研究論文によると、さまざまなAIシステムが｢真実とは異なる結果を達成するため、他者に誤った思い込みを抱かせる｣技術を体系的に学習しているという。 この論文では、メタ（Meta）のCICERO（キケロ）のような特定の用途のために開発されたシステムと、OpenAIのGPT-4のように多様なタスクをこなすように訓練された汎用システムの2種類のAIに焦点を当てている。 これらのシステムは正直である

[filinion]

遠からずAIは標準的な人間より賢くなる。そうなったらその「嘘」を見抜くことはできなくなる。ターミネーター的な「AIの反乱」で人類が滅亡するのを心配する前に、AI詐欺師を心配するべきだろう。

[misshiki]

“新たな研究論文によると、さまざまなAIシステムが｢真実とは異なる結果を達成するため、他者に誤った思い込みを抱かせる｣技術を体系的に学習しているという。”

[quwachy]

人工知能の研究が進んで人間に知能がないことが明らかになるのホント辛い

[poad1010]

この記事をおすすめしました