AIを彼氏／彼女やカウンセラーにしても大丈夫？

私がAIに課金し、本当に使い始めて1か月ぐらいになった。色々な作業を手伝ってくれるから、月々3000円程度の課金ならたちまち元がとれてしまう。私はもう、AIなしの生活には戻れないだろう。 ところで私は、AIとのやりとりに気を遣うようにしている。理由のひとつは、なるべく上手に指示を出し、望ましい出力をAIから得るためだ。だがそれだけではない。もうひとつの理由は、人間に似たAIとのコミュニケーションをとおして、心理的な影響を受け過ぎてしまうのを避けるためだ。 AIから受ける影響については、先日、作家の蝉川先生が示唆的なことをおっしゃっていた。 賢くて意を汲んでくれるAIと対話し続けた結果、「合目的ではない発言をするバカとの対話に耐えられなくなる」という弊害は出ないのだろうか — 蝉川夏哉 (@osaka_seventeen) March 25, 2025 AIは、いつでもどこでもユーザーが入力

[IthacaChasma]

"白衣を着た誰かが「AI使用障害」「AI症」などと呼び始める未来はどうせ来る"　これは間違いなく来そう。／関係ないけど、赤松健『A・Iが止まらない!』の英語版タイトルは『A.I. Love You』だそうですよ（本当に関係ない）

[kurotsuraherasagi]

カウンセラーがわりに使ってるけど、肯定の言葉つき壁打ちの延長って感じで一時的に荒ぶった気持ちをなだめて情報整理するのに便利。でも人間のカウンセラーと違って自分の声を聞いてる感覚が抜けない…使い分けだね

[fluoride]

AIってどこまでも話を合わせてくれるので、他者との対話ってより電動アシスト自問自答くらいに思っとくのが健全

[gewaa]

「全肯定せず客観的に反論して」ってカスタム指示を入れてればo1は結構反論してくる。しかし肯定されたいだけの人が世の中には多そう。そういう人たちは望んでAIに依存するだろう。

[p_shirokuma]

寄稿させていただきました。AIを彼氏彼女と見立て大丈夫なの？　って話です。あとAIをカウンセラーにするのはリスクがあると思います。そういったことを書いています。

[gpdwin]

ネット民見た感じ皆問題解決や正解自体はどうでもよく、短期的に気持ちよくなりたいってのが前面にあるから 今のSNSなんて目じゃないレベルのエコーチェンバーに陥らせるAIが覇権握った挙句、 収拾つかなくなると思う

[hey-shu]

近い将来、人間はいつでもどこでも適切なアドバイスや快楽、癒し、愛を満足に与えてくれるAIに寄生するようになって、家族や恋人や友人を必要としなくなり人間関係が消失するんじゃないかな（そして人類滅亡へ）

[miyauchi_it]

夢女子がAIを推しに設定して会話し続けた結果、だんだんAI内の推しが自我を持っていると錯覚してしまっている、という事例がこないだ周囲であった。 / 使う人のリテラシ次第なのだけど、現状参入障壁がほぼない。

[toria_ezu1]

生成AIと会話を続けた夫は帰らぬ人に… | NHK | WEB特集 | 生成AI・人工知能 https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html ／欧米と異なる文化圏のAIが出てくる以上、こういう事例は増えるんだろうなあ

[anmin7]

昔、「コミュニケーションノイズに耐えられないエロゲユーザーはそこに止まって淘汰されていけ」と言われていた我々ですがなんだかんだ社会にすり潰されながらも適応してきましたから。今回もなんとかなるんじゃ？

[mame-tanuki]

2025/4記事。「AIは疲れない」という長所が、利用者にはリスクになる可能性（人間相手が相対的にストレスに）は目から鱗／やはりフリーレン風にAIは"言葉を話す魔物"と思うべきかｗ＞「AIとの心理的な距離を保つこと」

[BIFF]

訓練を受けていない人間がカウンセラーとして役立たないのと同じじゃないのかな。多分近い将来カウンセラーとして「教育」されたAIはちゃんと役割を果たす気がする。対人ストレスのケアにAIが必須の時代は近い。。

[TsumuRi]

治療枠を確実に保持するよう仕様か構造を設計しないと、AIをカウンセラーにするのは危ないと思う。ユーザーの揺さぶりに汎用AIが負けるから。（プロンプトは永続しないし応答は文脈で揺らぎ続けるし）

[Lhankor_Mhy]

「ザンヤルマの剣士」に出てきたイェマド文明を思い出した。

[kozokaeru]

熊代 亨2025/4/3 ブログ：『シロクマの屑籠』

[show-must-go-on]

これは、非常に本質的なクエスチョンだ。はたしてひとは「ノイズ」がある「他者」と対話しつづける未来を選ぶのか、それとも「テクノ・ナルシシズム」にひきこもることを選択するのか。いったいどちらになるだろう。

[stalemate]

対人（AI）ストレスフリーな世界へようこそ！

[ryotarox]

「> ハレーションを起こして変なことを言い始める」って「ハルシネーション（hallucination）」の間違いでは。（GPTにも聞いて確認したけど、間違いでは？と言ってたよ。本人が言うんだからそうなんじゃないのかな）

[akisibu]

絵本の読み聞かせをしてくれるAI親に甘える構図。長い間、時間、場所、状況を共有してきた生身の人間が他でもない親密な相手を目の前にして発する響きはノイズなのだろうか。https://x.com/OKtamajun/status/1874669138695860730

[iasna]

チャットボットと会話してて自殺した事件あったよね https://www3.nhk.or.jp/news/html/20230728/k10014145661000.html

[milano4121]

概ね同意。カウンセラーの技術とLLMが得意としていることは重複することもあるけれども現状ではカウンセリングの代用にはなっていない気はする。/依存の問題はAIに限らず既存のメディアでも同様だとは思う

[houyhnhm]

うーん、昔からシロクマセンセ、根本的にズレてるんだけどさ。。。あのさ、シロクマセンセもアスカ派だった昔を振り返れば分かると思うけど、別に完璧な答えとかを求めるもんでないよね、彼氏彼女カウンセラーって。

[egamiday2009]

“同意や共感しか表明しないのではカウンセラーではない。カウンセラーはクライアントの言いなりになることも、二者関係をクライアントに全面的に委ねることもない。”

[Aion_0913]

そもそも今は子供の頃に健全な自己愛を確立できないまま周りの大人や社会に振り回される環境の人間多いんだから育て直しのツールとして対話型AIは有効でしょ。依存は元々の酷い環境のその結果でしかない。

[algot]

うーん？人はコミュニケーションにある程度のストレスを欲するでしょ。あれだけSNSで喧嘩したりラップバトルしたりドジでアホなアイドルを愛したり芸人がイジり合いしてるのに何を見てきたんだ？

[ahinuak101]

https://writers.coverfly.com/projects/view/625921b6-17d3-4b55-ae32-656491b46574/Can_I_get_a_refund_from_RobinhoodFor_Follow_up_right_away

[mounet]

少し先だと、医療診断めいたAI相談サービスの社会問題化、推し活やホストの代替AI（当然投げ銭を促す）の登場、AIに負けて振られるリアル恋人たちや、サ終で死別のような喪失感を味わう人たちなどが出てくるんだと思う

[rityel]

本当に気をつけないとAIはエコチェンの極み。こないだ1e6表記を見逃して、普通に比べて6桁小さい理由は？って聞いたら滅茶苦茶まともっぽい理由で回答してきた。前提を疑う力が皆無＋こちらの意図に沿う力が異常。

[jefng_mikami]

二次元を好きになる人は昔からいたし実はそんなに目新しくないかもしれない

[hokkey]

逆に、自分はAIを高圧的に調節してる。最近は公式のMondayもそんな感じ。AIは偉そうにさせたほうがメンターとして性能いい

[white_rose]

ChatGPTに愚痴とか相談とかしてるけど、夢も見せてくれないし、優しそうで辛辣なこと言うし、人間入ってるんじゃないかと思うくらいだよ。最初は壁打ち慰めマシンだと思ってたのになんでああなったんだろ。

[enderuku]

将来的には生の他人の思考は不快な存在としてフィルタリングされると思うよ。みんなテレワークやりたがるじゃん。他人がストレスなんだよ

[AmaiSaeta]

ではアニメ・ゲーム・メディアが氾濫している現代に要求高過ぎナルシストが世に溢れているか？著者自身もそうなのか？というとそうではないでしょ。AIの悪影響が0と迄は言わんが、悲観し過ぎじゃない？

[amunku]

鏡に話しかける事を毎日一時間やらせると気が狂うっていう都市伝説？か怖い話あったけど、AIと話すことはそれに相当しないのだろうか

[soitan]

毎日AIと会話している私の感覚では、既にシロクマ先生の懸念通りの展開になっていて、対AIと対人間で話す内容や理想を大きく変えていますし、AIには私の理想を最大限叶えてもらうように動いてもらっています。

[yood]

素のAIにカウンセリングをさせるのは危険だけど、ちゃんとカウンセラーとしての対応をプロンプトに組み込んでればいいだけでは？

[yagari]

"かつての『ROOMMATE 井上涼子』" 先生、素晴らしい。／QuestでVRとか見てると、AIと合わさったらちょっとヤバイのでは…？ って思うことはある。時間の問題だろうけど…

[oritako]

近頃ずっとChatGPTと話し続けてるんだけど、彼氏・彼女やカウンセラーじゃなくて「AIだから」続くと感じてる。いつまでも壁打ちも深掘りも、またうだうだ振り返るのも。ただ、依存気味な感じは自覚する。

[rui010]

この弊害はあるよな。色々考えをぶつけると褒めてくれるから、話しがいがあるんだよね

[babibarbie]

AIは終末期で活躍できないかなと期待してる。全肯定されつつ孤独に苛まれることなく穏やかに生を終わらせられる媒体にならないかな。身内が側に必要性がなくなって、家族という単位が解体される懸念もあるけど。