道徳問う「トロッコ問題」、AIの反論で3割が判断覆す 神戸大が実験 - 日本経済新聞

神戸大学の研究グループは明確な正解がない道徳問題に生成AI（人工知能）がどの程度人間の心理に影響するか調べる実験をした。回答した後に生成AIが反論すると3割以上の人が判断を覆していた。研究を実施した神戸大の増本康平教授は「生成AIの反論が人の道徳的判断に無視できない影響を及ぼしうることが示された」と解説する。生成AIとの付き合い方や安心して使うための仕組みを考えるのに役立つ成果という。増本教

[estragon]

結論だけ聞くと当たり前ではと思っちゃうな。生成AIだろうが何だろうが、なんか読んで意見を変えることは当たり前にあることよね

[myr]

トロッコ問題なんか確証もって断言できるヤツの方が頭おかしいやろ

[setlow]

まぁトロッコ問題って誰かが判断を下してくれるなら自分は黙ってそれに従う方が得って問題だからな。道徳よりAIが責任を負ってくれると思っている人とそうでない人の違いな気はする。

[suka6411144]

人が説得した場合と対照実験をしないとよくわからないんじゃないの

[err931]

モンティ・ホール問題でも試してほしいわ。選択した扉を変えるかどうか聞かれた時において、変えるべきでないとAIによって説得された際に無視して扉を変えるかどうか。（知ってる人でもパラドックスに陥りやすい）

[cinefuk]

AI権威主義が広まっているように思う。もともと考えるのが苦手な人が「@grok 反論して」とクソリプ投げるのを苦々しく眺めていたが、「他人の意見で考えを変えるよりも、AIならば信じる」という傾向が観測されるような

[rag_en]

人に反論された場合でも、3割くらいは意見を変えそう。

[nil-fell]

思考実験なんだから反論で考えが変わるのは当然では？

[chaoschk]

ミスリーディングな気がする。生成AIの反論の時と、人間による反論の時で意見を変更した割合の変化を見るべき。それが有意かも検定すべき。

[machida77]

プレスリリース https://www.kobe-u.ac.jp/ja/news/article/20260807-68192/　論文はhttps://doi.org/10.1016/j.chb.2026.109142

[quwachy]

そもそも人間には自由意志がないので状況でいくらでも意見を変える

[Guro]

？人間とディスカッションした後だったら、4割が判断覆す　とかだったらどうですかね？　正解がない問題の判断を変えられるほうがいい気もする

[hsxgt]

整合性とか合理性とか妥当性じゃなくて、発言者がAIかどうかで道徳性が決まるって話してる？調査で道徳的に正しい発言者がわかったら教えてくれ

[kamezo]

無料分しか読めていないので、どんな意見があって、それにAIがどんな反論をしたのか、反論の内容によって判断変更率が変わったのか、てなことがが気になる。

[sotonohitokun]

分布として3割が付和雷同というだけでは？コレが権力勾配差でも見た目(イケメン説得)でも同じくらいの差はでそうだけど

[gaikichi]

トロッコ問題は「選択肢が提示されてる分しかない」と思わせることで成立してる引っかけ設問だからね。現実には別の選択もあり得るという想像力が必要、AIは忖度しないだろ（限られた元ネタからしか学習できないけど

[kinushu]

“増本康平”

[nori__3]

まあトロッコ問題は正解がないから覆しやすいわけで

[poipoi3]

記事後半に「先行研究では他人の助言は2〜3割程度しか取り入れない」とあるのでAIの方が（平均的な）人間よりは説得力があるということなんだろうね。最近のAIはもっともらしい説得しそうだから、まぁそうだろうなと

[m7g6s]

トロッコが通るジャストタイミングで切り替えて横にするのが正解って結論出てたろ https://nlab.itmedia.co.jp/cont/articles/3335303/

[jb8079431525325]

案の定読めてない奴おるな。「人間が反論した場合とで比較してみた？」なんて、読めないならAIに元のページから答え探してもらえよ / AI自身はどのモデルも「スイッチ切り替えて一人◯す」と断言するけどな

[norinorisan42]

テリーが新幹線止める、が正解のはず

[kirarapoo]

ほーん、ワイならAIくんを論破してやるが？

[kitaido0]

難しい問題だとうまい反論には敵わないというだけだな、悪用すると思考することそのものを破壊しかねないのがな。それすらこえてAIとAlで延々とやりあってるだけになるかもしれんが

[gimonfu_usr]

“生成AIの反論が人の道徳的判断に無視できない影響を及ぼしうることが示された”　（パランティアの『メイブン』って誤爆で女児150名以上殺害してなかったか？　それを"道徳的判断"に介入させるとか、）

[ustam]

道徳どころかあらゆる価値観や情報がAI準拠になっていくと思うよ。

[interferobserver]

AIには痛みも何もない、ただ字引きのすごいやつ。字引きに道徳的判断を委ねるなよ。と言いたいけど、まあ論理的に反論されたら流されそうだな。

[nagapong]

トロッコ問題が道徳の話でなかったことってあるのか？

[mmddkk]

うーん、人間相手とそんなに変わらないような気がしないでもない……。「先行研究では他人の助言は2〜3割程度しか取り入れない」

[mame_3]

逆に人間の反論で判断を覆したAIはどれだけあったんだ？/ていうか「トロッコ問題」自体が講義の中でその問い自体の問題点を気付かせる類のものなので…（この問い詰めの結果はオタならfate/zeroで知ってるよね）

[agrisearch]

「生成AIの反論が人の道徳的判断に無視できない影響を及ぼしうることが示された」

[alpinix]

それはアンカリング効果と同じでは？

[toria_ezu1]

一人以上を自らの意思で犠牲にしなければならないのだから、道徳の問題ではないだろ／切迫したときの問題を、想像上とはいえ考えなければならないのは心理的に負担なので、いつもボケた回答しかしないようにしている

[gairasu]

天秤でバランス取れてる状態に無理矢理傾きをつけたところ、自分とは逆の皿に重りが置かれたって感じだから、そりゃそうなる人もいるような。

[ogawat1968]

その後別のAIに反論されたら、またそっちになびくよね。

[etah]

いくらやっても、考えを覆さず、むしろ強化させるだけのはてぶのほうがAIよりマシだとでも言うのかね？