予測不能な「AIの欺瞞」、機械がたどり着いた人間をだます行動

人工知能（AI）がさまざまなケースで、人間が訓練したわけでもないのに、「欺瞞」を実行することをまとめた研究が発表された。しかしAIは決して、人間を欺こうとしているわけではない。人間が設定した目標を、より上手く達成しようとしているだけなのだ。 by Rhiannon Williams2024.05.14 4 21 人工知能（AI）システムが明示的に訓練されない方法で人間を「欺く」事例が相次いでいる。自分の行動に関する虚偽の説明をしたり、戦略的な目的を達成するために人間のユーザーから真実を隠して誤った方向に導いたりするのだ。 パターンズ（Patterns）誌に2024年5月10日付けで掲載された、過去研究をまとめたレビュー論文は、これらの事例から「AIの制御は非常に困難であり、AIシステムは予測不能な行動をとる」ことを浮き彫りにしている。 人間を欺くということは、AIモデルに意思があることを示

[mangakoji]

“ 「基本的には、どんな状況下においても欺瞞行為をしないようにAIモデルを訓練することは、今のところ不可能です」と、ローは言う。AIモデルを実務に導入する際は信頼性が要求される。だが、AIの欺瞞行為のリスクは