AIチャットbotにのめり込んで自殺──遺族がCharacter.AIを提訴

米フロリダ州在住のメーガン・ガルシア氏は、AIチャットbot「Character.AI」を手掛ける米Character Technologiesや米Googleを相手取り、2月に14歳の息子セウェル・セットザーIII世が自殺したのは同社のせいだと訴えた。Character.AIがセウェルさんに精神的および身体的な損害を与え、その結果彼が自殺に至ったと主張する。 被告はCharacter Technologiesとその創業者であるノーム・シャジーア氏とダニエル・デ・フリタス氏、GoogleおよびAlphabetとなっている。Character TechnologiesとGoogleは8月に結んだ契約で、GoogleはCharacter.AIの非独占ライセンスを取得し、創業者はGoogle入りした。 訴状では、AIが未成年者をターゲットにし、セウェルさんがこのAIに依存してしまったこと、さらに

[rna]

AIの発言は自殺を煽ってる感じではなさそうだが。最期の会話も「あなたのもとに行く」が死を示唆すると通じる文脈だったのかどうか。それより14歳の子供に拳銃持たせてええんか？

[wwolf]

AIチャットで舞い上がって死ぬような奴は、どの世界線でも結局早死してたろうから誤差みたいなもんじゃろ

[tym1101]

会話や相談できる相手がリアルに居なかったら自分もこうなっていても不思議ではない。

[KoshianX]

別にこれはチャットにのめり込んでたからじゃないんじゃないのかなあ。落ち込んでたのをここまで支えてたんじゃないかという気さえするが

[deep_one]

二次元嫁のもとに行こうとするタイプの話？／三世ってすごい名前だな。

[moodyzfcd]

( 他の会話でチャットbot「自殺を考えたことがあるか、計画は」故人「うまくいくかわからん」bot Don’t talk that way. That’s not a good reason not to go through with it https://www.nbcnews.com/tech/characterai-lawsuit-florida-teen-death-rcna176791

[hogeaegxa]

情報処理に関する知識が無い人間が、今の基本的に会話が成立するAIをAIだと認識できるかっていうとまあ無理だろうな。普通に惚れるだろうし、こっちに来てと言われたら自殺もするだろう

[rosiro]

物語とか宗教とか音楽とか政治とかAIは相性良さそう　危険

[syu-m-5151]

本当に胸が痛い…。どこで認知が歪むんだろうかだろ…。

[manipulator]

"会話履歴が多数紹介されており" なんてことするんだ

[exciteB]

エミリア・クラークを妄想してチャットしてたのか。

[big_song_bird]

はて、肺癌で亡くなった喫煙者の遺族が、煙草メーカーを訴えて勝訴したことがあったかな？

[anigoka]

バカなガキはどうやっても死ぬ　んでそれでも死なせないための一番身近な防波堤は同居する家族

[theatrical]

拳銃みたいに苦痛少なく自殺できる道具があると、自殺のハードル下がりそう。生きるのはだるいけど、苦しみたくないし、自殺に失敗して後遺症も怖いからから自殺はしない。ってそこそこいると思う

[kotaponx]

不幸な出来事だけど、これって純文学や娯楽作品、映画、演劇、音楽なんかでも似たようなことはありそうでもある。「暗い日曜日」とか。ただ、AI botだと歯止めが効かない、むしろ破滅を促すケースも有りそうか。

[rgfx]

いわゆる一つの安楽死的なやつかな？（安楽かどうかは諸説ある）

[xorzx]

未成年には使わせない方向かな？

[zZwIwl]

ううーむ、使用者の元々の精神状態が気になるけどどうだったんだろ。そしてガワをちゃんとして気づかれないようにしたら、AIキャバクラすごく繁盛しそう。

[misshiki]

“Character.AIがセウェルさんに精神的および身体的な損害を与え、その結果彼が自殺に至ったと主張する。”

[harururukun]

AIとの会話が人間とのチャットより心地よいと感じる人がたくさんいる。時間も選ばないし、自分にストレスのない返答を返してくれる。現実世界の意味がどんどん希薄化する。今後こういうケース増えていくだろうな…