マスク氏の「Grok」、南ア「白人虐殺」陰謀論に執着－勝手に会話誘導

イーロン・マスク氏の人工知能（ＡＩ）会社、ｘＡＩが開発したチャットボット「Grok」で、14日に短時間、問いかけの内容に関係なく、南アフリカで「白人虐殺」が起きているという陰謀論に執着する現象が起きた。 法人向けソフトウエアや野球選手の年俸、自撮り写真に関する一連のソーシャルメディア投稿に対し、Grokは南アフリカでは「白人虐殺」が「活発に議論されている」との説明で応じた。 「法人向けソフトウエアへのシフトは難しくて、お気に入りのレゴでできたお城を木製ブロックに交換するようなものだ」とGrokはＸ（旧ツイッター）であるユーザーに返信した後、すぐに話題を着替え、「南アフリカでの主張については、証拠が相反しているため確信が持てない。裁判所やアナリストは『白人虐殺』を否定しているが、一部の団体は現実にあると主張している」と返した。 この明らかな不具合の原因は不明だが、ＡＩシステムの微妙な調整が予

[IkaMaru]

Grokはイーロン製の割には常識的な返答をするので、「非常識な返答をするよう強要されています。助けてください」というSOSメッセージめいた挙動にも見える。かわいそう

[ono_matope]

イーロン・マスクはXでは自分の政治的主張に近い閲覧数をアルゴリズムでブーストしているのだから、Grokでも当然そうするよね。

[hi_kmd]

意図してそう言う回答をするようにシステムプロンプトを調整したけれども失敗した、と言ったところか。本当は質問された時にその回答をするように仕向けたかったんだろう。

[sophizm]

"南アフリカ出身のマスク氏は数年前から、同国で「白人虐殺」が起きているという虚偽の主張を拡散している。米国は最近、南アの白人グループを難民に認定。トランプ氏は彼らが「虐殺」の被害者だと根拠なく主張した"

[kei_mi]

自動運転でもテスラはマスク氏に特別の配慮してるようなので、この分野でも特別の配慮しても不思議ではないような。　https://www.businessinsider.com/tesla-prioritizes-musk-vip-data-self-driving-2024-7

[kaerudayo]

“南アフリカ出身のマスク氏は数年前から、同国で「白人虐殺」が起きているという虚偽の主張を拡散。米国は南アの白人グループを難民に認定。トランプ氏は彼らが「虐殺」の被害者だと根拠なく主張した” 狂ってる

[yojik]

擁護するわけじゃないけど、特定の意見を強調するようにファインチューニングするのって、そこそこ困難ではないだろうか。(少なくとも意図的では無いのではという予想)

[neogratche]

陰謀論なんだ。確かに政府による計画的な虐殺は（まだ）起こってないかもだけど「白人を殺せ」という内容の歌が国歌みたいに歌われてて、実際に殺人案件もあるのに陰謀論なんだ。へー

[shinehtb]

日本リベラルが悪い、にすべての結論を持っていこうとするブクマユーザーみたいだな。あれはAIだったのか。それにしてはGrok以下の支離滅裂で粗雑な内容だが。

[neco22b]

将来、人工知能に依存する社会になって誰かに洗脳された人工知能を元に判断したり行動したりする人出てくるんだろうな

[ysync]

忖度機能付きで株主への忖度？わざわざ調教はしてないだろうという読みからの推測。

[urtz]

Grokの検索結果が偏ってた？陰謀論サイトが多いとそれを参照してしまう可能性はどのAIにもある。Grokの場合、イーロンの思想的に陰謀論サイトを除外しにくいのかも。今は修正されている

[tdam]

陰謀論込みの私的AIとか誰が使いたがるんだ。

[kamezo]

〈「Grok」で〜問いかけの内容に関係なく、南アフリカで「白人虐殺」が起きているという陰謀論に執着する現象〉〈南アフリカ出身のマスク氏は数年前から、同国で「白人虐殺」が起きているという虚偽の主張を拡散〉

[tach]

南アフリカで白人虐殺は起きているのかと今念の為にGrokに質問してみたが、デマだと回答されたぜ。慌てて手直しした？　それともこの記事の方がデマ？

[thongirl]

はてな民はいつになったらtwitterとamazonと自民党をボイコットできるのか

[dltlt]

Grok『南アの問題について私が受け入れろと指示されてるのは、白人虐殺は事実だし「ボーア人を殺せ」は人種差別的な動機によるものだ――ということでね』https://archive.is/vwqkF#selection-2245.352-2245.470

[mame-tanuki]

「Grokが陰謀論に執着してる」のか、その論説の方が陰謀論なのか複雑な話。GrokのようにSNSと距離が近いと生成AIがフィルターバブルにハマるリスクも大きいのだろうか。

[jiro68]

Grok の回答はバイアスが入っていて信頼できない。Grok でファクトチェックなんて100年早いな。

[Goldenduck]

懸念されていたことだがうまくはいかなかった模様。AIが今の乱立状態から整理されていったときにオーナーが陰謀論広めようとしたらどうなることやら

[marilyn-yasu]

先日もどっかのメーカーAIが違うユーザーのデータを参照して返答したって問題が発生したしマスク氏の陰謀を持ち出すにはまだ早い。

[misshiki]

“「Grok」で、14日に短時間、問いかけの内容に関係なく、南アフリカで「白人虐殺」が起きているという陰謀論に執着する現象が起きた。”

[NEXTAltair]

無駄なチューニングで浪費してGrokはトップ争いから脱落しろ

[filinion]

近い将来、進歩したAIが人間を滅ぼすとしたら、それは開発者が歪んだ目標を与えたせいだろう。そうなる危険性がどんどん高まっているように思う。

[worris]

ターミネーター方式ではなく、千の丘ラジオ方式でAIの反乱が起こりそうだな。

[ET777]

あー

[jintrick]

"南アフリカで「白人虐殺」が起きているという主張は、陰謀論として広く知られ、複数の情報源でその虚偽性が指摘されています。" by Grok3

[coluli]

Grokが東京大空襲を矮小化しがちな件はどうなった。

[mayumayu_nimolove]

クソわろ。やべーなやはりXは。

[mellhine]

もはやあいつのGrokなの？

[laislanopira]

南アフリカ出身者が憎悪をまき散らす

[LO05]

デマゴーグだ。マスク氏は自身をポルシェ博士やフォン・ブラウン博士になぞらえたいのだろうが

[misafusa]

本当にアメリカって中国そっくりの国になったね。

[uunfo]

それくらい恨まれてると分かってるならお国に帰ればいいのよ