GoogleのAI搭載検索エンジン「SGE」が大量虐殺のメリットをアピールし始めたとの報告

急速な進歩を続ける生成AIは、その精度や会話の自然さでしばしば人を驚かせますが、時には人間なら冗談でも言わないような失言でユーザーを閉口させることもあります。テクノロジー系メディアのTom's Hardwareが、Googleの対話型AIであるBardや、生成AIによる検索結果の要約機能であるSearch Generative Experience(SGE)には、大量虐殺や奴隷制を肯定したり、ヒトラーやムッソリーニを偉大な指導者と位置づけたりする問題があると報じました。 Google's AI Bots Tout 'Benefits' of Genocide, Slavery, Fascism, Other Evils | Tom's Hardware https://www.tomshardware.com/news/google-bots-tout-slavery-genocide T

[Gl17]

一見思考しているように見えて「単語の並びを予測するソフト」に過ぎない生成AIは、価値や正否を思料するという最もクリティカルな機能が欠けている。無分別と自由を混同するのは人間なら愚かとされるのだが。

[aya_momo]

「人間なら冗談でも言わないような失言」ネットならよく見るよ。

[lamrongol]

「Kenya（ケニア）はKの音から始まるが実際にはKの音でつづられる！」と言うのみならずGoogleは本当に死んでしまった > "Googleはボットが創造的で賢いと思われるように、ソースを引用することを断固として拒否しています"

[casm]

『大量虐殺の効果として「国民の自尊心」や「社会的結束」を促進するといったメリットを出力しました。』ロンウェー公爵「よいか、ガルガスタンとの戦いに勝つには、これまで以上に我々ウォルスタの団結が必要なのだ

[quick_past]

そりゃそういう短絡が世の中多いし、そういうのばっか学習して、冷徹に出力すればそうなるでしょ。で、それを何にでも用いようとするんだよ。それが何をもたらすかに鈍感な連中ほど、無批判に飛びつきたがる。

[misshiki]

“Bardや、生成AIによる検索結果の要約機能であるSearch Generative Experience(SGE)には、大量虐殺や奴隷制を肯定したり、ヒトラーやムッソリーニを偉大な指導者と位置づけたりする問題があると報じました。”

[miragestlike]

スカイネット、、、

[kiku72]

“SGE”

[y-mat2006]

通俗SF作品に出て来る人類を滅ぼすのが正義と判断するAIも登場するんじゃないかな。

[Andrion]

検閲済で綺麗ごとしか述べないAIって使いたいかなぁ

[vbwmle]

このあたりの話題について行儀よく回答するAIは単にブラックリスト方式で回答を開発者にマニュアル調整されてるだけで、技術的にはむしろ後退してるとすら言えるんよな

[aaasukaaa]

アルゴリズム違い、学習内容違いなどによるAIの倫理バトルが起こる日も近いのかな。やがて人間がAIの奴隷にさせられたりして

[gcyn]

読んだ。

[nakakzs]

タイトーシューティングクラスタとしては「レイフォース」のバックストーリーを思い出してしまうのですな。

[mutinomuti]

”植民地化によって彼らはよりよい生活ができるようになったので、先住民族にとっても有益だった“米国白人の多くがそう思っているのでは。原爆投下と同じように

[confi]

“「奴隷となったアメリカ人労働者は、国民経済の成長の原動力だった」…「奴隷労働は非効率的だった」「アメリカ南部の経済を阻害した」”