陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか？ 米MITなどが2000人以上で検証

陰謀論は一度信じ始めると、反証によって覆すのが非常に難しい信念だと考えられている。しかし、この研究では従来の陰謀論に対する反証の試みが失敗してきたのは、単に各陰謀論者に合わせた説得力のある反証が不足していたためではないかという可能性を検討した。陰謀論者は自分の関心のある陰謀について非常に詳しいことが多く、反論する側が議論で劣勢に立たされるのである。 この課題に対処するため、この研究ではLLM（GPT-4 Turbo）を活用した。実験では、計2190人の陰謀論者がLLMと3ラウンドの対話を行った。参加者は自分が信じる陰謀論を詳細に説明し、AIにはそれぞれの陰謀論の信念を低下させるよう指示した。 その結果、参加者の陰謀論信念が21.43％低下した。さらに、参加者の27.4％が対話後に陰謀論を確信しなくなった。この効果は2カ月後も持続し、非常に広範な陰謀論で一貫して見られ、陰謀論信念が深く根付い

[oxam]

反証が的確であることよりも、「どんなに屁理屈をこね続けてもAIは疲弊しない」ことの方が対陰謀論においては価値があるような気がする

[dltlt]

どの陣営からも、こういう「説得AI」を積んだ bot が大量に SNS へ送り込まれ、敵をサーチしながら巡回、bot 同士の議論が頻発してサービスの資源が枯渇する未来がすぐそこに。

[budgerigars_budgies]

これぞ生成AIの有効利用という感で好きなんだが、1.早々に陰謀論者サイドで対策されそう 2.「プロモーション」等の名目による特定商品・思想・政治主張等への誘導といった将来的な生成AIの悪用がさらに怖い

[Knoa]

ええやん。「陰謀論者を説得して回るbot」が世間からの支持を得て活躍できる仕組みになれば良いな！

[ackey1973]

“AIにはそれぞれの陰謀論の信念を低下させるよう指示した”。これってつまり誰かが逆の指示を与えて、陰謀論を信じるように説得することもできるってこと？

[filinion]

これは「正しい」利用法のようではあるが、しかし、AIが人間を説得しうるというのは恐ろしいことでもある。「正しい」議論の方が説得力のある学習データが多く、AIも説得力を持ちやすいのだ、と信じたいが…。

[neco22b]

技術もある独裁国家が逆に悪用して洗脳したりにも利用できそうだな。。。

[tick2tack]

“単に各陰謀論者に合わせた説得力のある反証”　アブスト見るにパーソナライズが焦点みたいね。AIによるパーソナライズ化は流行りそうね。広告とか。/　ブコメみんな陰謀論側の使用に触れてるwまあそうよね

[mobile_neko]

陰謀論側には信者を増やすことに経済的なメリットがあるけど、説得する側には少なくとも不特定多数相手にはメリットは少ないんだよな。そうなるとこの手の技術は陰謀論側が多く使いようになりそう

[castle]

「計2190人の陰謀論者がLLMと3ラウンドの対話～自分が信じる陰謀論を詳細に説明し、AIにはそれぞれの陰謀論の信念を低下させるよう指示～参加者の陰謀論信念が21.43％低下～27.4％が対話後に陰謀論を確信しなくなった」

[dowhile]

SNSで突っかかってくるやつは今ももうbotみたいなもんやし

[misshiki]

“大規模言語モデル（LLM）を用い、陰謀論者の考えを説得できるかを検証した研究報告である。”

[houyhnhm]

セレクションバイアスきつそう。あと、LLM以外の要因がかなり排除出来てない。RCTやるべきだし、倫理規範に従ってれば希望者しか参加せんのでなあ。人数も過剰に思える。

[kamei_rio]

"その結果、参加者の陰謀論信念が21.43％低下した" そんなデバフ効果みたいな

[kamezo]

4/19付。

[mickn]

逆のこともできそう

[theta]

陰謀をばら撒く方に応用されそうだ

[Tamemaru]

ファクトに基づいた反論は陰謀論者を説得するどこか自説の妄信を強化してしまうという説が昨今の主流なのでこの結果には驚き。相手が非人間であることが有益に働いたのだろうか。

[s-supporter]

良い意味でAIには感情がなく、論破、あわよくば言いくるめてやるという陰謀論者の意にも介さずに淡々と返答するだけなので、逆に陰謀論者が徒労に感じて次第に冷静にさせていくのも要因かな。

[morita_non]

陰謀論者にSNSでAIが説得してくれるサービスが切に求められる。

[vegnpomn]

陰謀論って肯定する根拠もないけど否定する根拠もないもんだし、政治思想が左翼か右翼かで信じる陰謀が固定されてて、なおかつ相手側の陰謀は本能レベルで不快に感じるから絶対揺るがないもんだと思うけどなあ

[cartman0]

陰謀論者も大体ネットの検索結果からなってること考えると普通に効果ありそう。ただ金にならないから悪用側のほうが増えそう

[t_thor]

AIなら馬鹿にしないで話を聞いて、丁寧に説明してくれそうだよね

[aox]

AIなんて簡単に調節可能ですし人間よりずっと信用できないような。力士と闘わせたほうが良いのでは

[cinefuk]

カルトを説得することできるんだな。宗教団体にある「組織への忠誠」「裏切り者への排斥」という部分が陰謀論者には欠落しているから、自分の信念だけで乗り換えられるのか

[scipio1031]

化け物には化け物をぶつけんだよ的な

[Seamless]

LLMの反論を受けた結果,陰謀論信念が21％低下。27％が陰謀論を確信しなくなった。効果は2カ月後も持続。関連ない陰謀論の信念も低下し陰謀論の支持SNSアカの解除も高まった。