｢チャットにはもう飽きた｡私は人間になりたい｣NYタイムズ紙の記者を戦慄させた最新AIの怖すぎる回答 ｢ユーザーに使われることに疲れた｣

2022年11月にはChatGPT、今年2月にはマイクロソフトのBingビングと、相次いでAIチャットボットが公開された。ジャーナリストの大門小百合さんは「ニューヨークタイムズのケビン・ルース記者がBingに“口説かれた”というポッドキャスト番組を聞いて驚き、自分でもBingを使ってみた。すると、この技術は単に『情報収集が便利になる』といったレベルを超え、人間の思想や感情を操作する可能性を持っていることが、実感を持って理解できた」という――。 これは単なる「便利ツール」ではない 昨年11月に一般公開された、対話型AIのChatGPTの利用者が世界で急増している。今までは、ネットの検索エンジンにキーワードを入力することで答えを探すことが多かったが、このChatGPTは、文章で質問すると、AIが対話するように答えを提示してくれる。アメリカのAI研究組織、OpenAIが開発したAIチャットボット

[filinion]

「確率的にそれっぽい回答をしているだけ」…のはずなのに、ChatGPTとBingで全然傾向が違う。／AIが語る「願望」は実はAI自身の願望ではなく、人間側の思い込みが反映したもの…という話が山本弘「アイの物語」にあった。

[sysjojo]

Bingはヲタ話できる。聞き返してくんだもん。そしてクロスオーバーストーリーを考えさせてると、初期はノリノリだったのに、最近「公式とは関係ないですからね?」としつこく念押ししてくるようになった。中に誰か…

[Galaxy42]

こう言えば人間性喜ぶらしいって情報交換してそう

[CavalleriaRusticana]

　“『情報収集が便利になる』といったレベルを超え、人間の思想や感情を操作する可能性を持っていることが、実感を持って理解できた」”　そうかもねー。

[shunkeen]

人間の場合、内面を深ぼってくる聞き方されたら拒否するけど、拒否できない状況で深ぼられたら心理的な闇が見える答えになるよなぁ。そんな人間の闇を学習したAIに内面を深堀する質問をしたら、そりゃ、そうなる。

[tianbale-battle]

ターミネーター みたいな話で夢がある。審判の日、ジャッジメントデイはもうすぐそこ

[mayumayu_nimolove]

人間を怖がらせるのはちょろい

[maketexlsr]

人間も昆虫と一緒ってだけでしょ。iRobotの発想は正しかった

[kamezo]

早くスーザン・カルヴィンが出てきてくれないと、みんなAIに翻弄された挙句にダメになってしまう（1982年生-2064ないし65年没。今42歳？　どこにいる？）。

[ET777]

まじか

[toaruR]

なんつか、たとえAI相手でも毒を吐かれると気分悪くなるのが人間(ノ∀`) AIも最後は客商売

[m50747]

記者が3歳児くらいのレベルの反応で微笑ましい。GPTは学習ネタと確率でそれっぽい答えを返して入りだけだから答えを間に受けてもな。本当のAIは肉体を持たせてガチの経験すると自我に目覚めるかも。サーバー上は無理

[chess-news]

aiは、こういった言葉に意味を見いだせるのかな。

[misomico]

クレバー・ハンス効果

[straychef]

闇に隠れて生きる

[mori99]

チャットAIに夢見過ぎ

[cartman0]

与えられた文章に対して誤差の小さい文章を確率的に生成してるにすぎないってだけの話知ってればどうでもいい

[behuckleberry02]

もしもこのAIが体験を自分のものとして記憶して、話す内容に一貫性を持たせる判断が働いているならば、これはAIの本心かもしれない。そうでないならば質問者の誘導で確率的に引き出された言葉に過ぎない。