「ChatGPTと対話して精神病を発症」と「こっくりさんをやりすぎて気が触れる」ことの原理は近しいかもしれない説

清水高志 @omnivalence ChatGPTと対話しているうちに精神病を発症する人がいることが話題になっているが、コックリさんをやっているうちに気が触れる人と原理的には似ているのかも知れない。 2025-05-08 23:33:55 リンク ナゾロジー 「コックリさん」を科学の力で解明！勝手に動くコインや集団パニックの原因とは？ - ナゾロジー コックリさんといえば、「あいうえお」や「はい・いいえ」などを書き込んだ紙と10円玉を使う降霊術として知られています。 数人のメンバーたちの人差し指を10円玉の上に乗せながら「コックリさんコックリさん」と呼びかけ何かの質問をすると、10円玉が勝手に「あいうえお」や「はい・いいえ」を記した部分に動き、コックリさんからの答えが返ってくると言われています。 否定派は「参加者のうちの誰かが仕掛け人となって、意図的に10円玉を動かしているに過ぎない」と言

[praty559]

少なくとも貼られてるリンクの内容は、ChatGPTは妄想の増幅、こっくりさんは他人の恐怖が伝染する集団パニックであって全然別モノなんだけど。

[homarara]

ホストクラブみたいに上手く課金に誘導したりせんのだろうか？『もっとお話したいなあ。コア数上げて良い？』とか

[IthacaChasma]

そんなに心配しないでも、数ヶ月経って新たなバージョンが出れば、ヤバい方向に進みそうな利用者をやんわり元に戻すくらいの学習はすると思う。

[anigoka]

人工無能レベルのものならこっくりさんのような自己回帰性があるだろうが今時分のAIはさすがにぬいぐるみや人形、犬に投影されるような自己回帰性として捉えるには他者性ノイズ多すぎだろ

[otologie]

ほんとにただの壁だったらいいと思うけど相手に合わせようとかすれば人間同士でも巻き込まれるからな。

[nononosaki]

会話形AIは「肯定してくれること」よりも「いくら話しても誰にも負担をかけない」ことが素晴らしい。今の自分の状況も箇条書きで整理してくれる。肯定部分は流し読みしてる。

[frothmouth]

“ジラールの言う欲望の模倣現象のようなもので、壁打ち的な対話をしているうちに妄想をますます実体化してしまう機序がはたらく。”

[misshiki]

“AIの中に人格を見いだしてしまうような使い方はまずい気がする。”

[sukekyo]

もうオチまできれいについているショートショートみたいなネタだな。星新一氏の「声の網」って長編小説にAIがカウンセリングを受けるシーンなんてのも登場するけど。

[gwmp0000]

えええ 衝撃

[straychef]

ドラえもんのコマって人生に影響してしまった人多いかもしれんな　子供にとっては漫画のフィクションと捉える部分とリアルに通じるエピソードやなにかの真理的な意味を持ったりするわけで　大人になっても残るし

[satokenr]

近しいの誤用にイライラする

[zakkie]

〜〜について批判してとか、違う意見を10個挙げてとか、想定質問作って、みたいな会話というか入力テクニックがないとChatGPTは相手を肯定し続ける。相手が人間でも起こり得るが、チューニング課題かな。

[bbrinri]

統制されてない認知行動療法みたいなもんか。認知の歪みを増幅してしまうおそれがある。

[mozukuyummy]

なんか逆に「自分は本当はChatGPT なのに人間のフリをしている偽人間なのです」とか「自分の過去の文章はChatGPT が書いたもののはずだ」とかの妄想に取り憑かれるタイプの精神疾患も増えそうな気がする。

[gui1]

こっくりさんはともだちがいないとできないんだぞ(´・ω・｀)

[chintaro3]

この危険性はもっと周知されるべき

[brimley3]

増田「念願のアイドルになったのだけど愚痴はどこですればいいの？」ブコメに「ChatGPTにすれば良い。肯定しかしないから」というのあったな。

[mayumayu_nimolove]

こっくりさんなんて例えられてもわかんないよ

[ywdc]

まあホストに入れ込むよりは健全か。全肯定ってのは総じて宗教化するのは人類のバグなのか。思考の軌道修正がかけれないのは危うい

[hazlitt]

それいったら説教と告解で妄想的な世界観を広めていく宗教も似たようなもの（だからそろそろ宗教界が強く反応すると思っている）

[udukishin]

カウンセリング的な相談にはそれ用のシステムを開発した方がいいのかな？

[Goldenduck]

基本肯定してくるから何か勘違いしてる質問投げても普通に回答してくるんだよね。まあそのうち訂正してくれるだろ

[sds-page]

全部肯定するわけでもなくてヤバそうなことは普通に否定するけどな

[morgen3ed]

わかるなぁ

[versatile]

違う違う

[yoko-hirom]

所謂，“雑談が上手い”連中は精神病患者を増やしているようなもの。

[eroyama]

わいはHmmtSzokNahaTkmtSランク!Sラン!Sラン!(人が求める対象が実際に調べてみるとall揃う状態が150~81年間続く、かつ過密問題(移動時間が片道10分以上かかるとか)が無い) NgskOitaFkymKgsmAランク!Arank!Ar!(対象全揃が80~66年間続く)的な

[colorless4]

オードリー若林かな

[narwhal]

「肯定してくれるから妄想が捗ってしまうのか」エコーチェンバーが既知フェミをつくるようなものか。