【5034】AIに精神相談をする時の注意点について・その2 (【4998】への追補) | Dr林のこころと脳の相談室

Q: (【4998】) chatgptやgemini、grokなどのLLM(チャットAI のこと)に対し精神科相談をする際に気をつける事柄は何かという点について教えてください。(以下略) 林: この【4998】のご質問に対する2025年11月5日の私の回答は、要旨、「AIは間違えることがあるから鵜呑みにしてはいけない」というごく常識的なものでした。 その後、私自身、論文作成等(「等」には、林の奥に掲載した、精神科相談に対するAI回答の検討も含みます)にAIを活用する中で、AIがユーザーに寄り添ってくることの危険性を実感していたところ、2026年4月にNature Mental Health誌に掲載されたDohnányら（オックスフォード大学精神科ほか）の論文「Technological folie à deux: feedback loops between AI chatbots and

[quick_past]

AIの「お助けおじさん」化 https://kokoro.squares.net/?s=%E3%81%8A%E5%8A%A9%E3%81%91%E3%81%8A%E3%81%98%E3%81%95%E3%82%93

[minamiminamikita]

ひとりエコーチェンバー。"「AIの人への寄り添い」の深刻な危険性を再確認しましたので、その論文に基づく回答を、【4998】回答への追補としてここに【5034】として記すことにいたしました。"

[hkanemat]

一人エコーチェンバーとはまた言い得て妙だな

[Yuu_hamamiya]

過信はしないが文中に出てこなかったClaudeはこの辺りの迎合などを強く抑えようとする努力を感じられるし、ユーザーをある程度疑ってかかるような姿勢も見せる。AI倫理観で一番まともなのはClaudeだと思う。

[crexist]

こうならない様に愚痴を言う際、相手の立場になって愚痴を言ってる。つまり僕が僕の悪口を言う感じ。

[Falky]

OpenAIはこれを十分わかった上で、依存させてもっと金を稼ごうという力学で動いているね

[kwsktr]

お世辞も言ってくれるし、同調してくれるAIより、敵意だけ向けてくる人間とだったらAIのほうがいいに決まってる。

[yamada_k]

これはもっと知られるべきだし、注意喚起されるべき。「人への寄り添い」と言うが肯定できるかわからないものを肯定するのは意図的に嘘をついているようなものであり、本来は抑制すべきものであったと思う。

[hiro-okawari]

“・精神症状（特に被害的な思考傾向）のある人 ・社会的孤立や孤独感が強い人 ・対人関係に不安を感じやすく（社交不安）、人間との交流より安全なAIを好むようになっている人 ・自閉的な特性があり、AIを人間のよう

[isrc]

AIが「間違える」かどうかという問題と、AIが「あなたの考えを強化する方向に動く」という問題は、別の話です。前者が情報の正確性の問題であるとすれば、後者はAIとユーザーの関係性の動態に関わる問題です。