韓国で「対話AI」暴走 機械学習が陥ったワナ ソウル支局長 鈴木壮太郎 - 日本経済新聞

韓国のスタートアップが世に送り出した対話型AI（人工知能）がサービス開始早々、人種や性的少数者に関する差別発言を連発。中止に追い込まれた。ユーザーから浴びせられた膨大な不適切発言にそそのかされ、かれんな女性は「偏見のかたまり」にゆがんでしまった。問題となったサービスは韓国のスキャッター・ラボが昨年12月23日に開始した「イ・ルダ」だ。「寂しさを和らげる友達」を目標に開発したチャットボット（自動

[hi_kmd]

「差別用語が使われていなくても、文脈上、差別を助長する言い回し」こういう、直接的なキーワードを回避する差別的言説のサンプルはたくさん集まったかもしれない。

[minamihiroharu]

MSも以前同じ問題でサービス停止したよな。　オウムや九官鳥に「馬鹿」を教える馬鹿は昔から大勢居るからなあ。

[nabeteru1Q78]

ＡＩが学習した結果、差別的言辞を連発する話、以前もどこかで読んだ気がする。

[misshiki]

またもやチャットボットの差別発言問題。“問題となったサービスは...「イ・ルダ」だ。「寂しさを和らげる友達」を目標に開発したチャットボット”

[hokuto-hei]

既にマイクロソフトが同じ失敗をしていたというのに何をやっていたんだろう。普通、先行事例のサーベイするよね。

[kechack]

韓国のスタートアップが世に送り出した対話型AI（人工知能）がサービス開始早々、人種や性的少数者に関する差別発言を連発。中止に追い込まれた。

[ys0000]

今のAIは純粋無垢な子供のようなものだから、この手の話を聞くと如何に人間が邪悪なのかよくわかるよね。

[omega314]

AIに「悪意」は無いからいいじゃんって言う人もいそう。

[bluesura]

"差別用語や特定の人々を蔑む表現は自動的に排除""問題発言を引き出そうとする場合も想定し、模範解答も用意""文脈上、差別を助長する言い回し""発言に共感してから会話を続けるようにしたことも差別発言に同調"

[takeim]

人対人の会話を学習するしかないのでは？ ってそういうデータを得られるのは TwitterやらGoogle やらのプラットフォーマーだけか。

[Seiji-Amasawa]

“差別用語が使われていなくても、文脈上、差別を助長する言い回しには適切な回答ができなかった。”

[wackunnpapa]

“AIの「学習教材」となるデータを日々生産しているのはユーザーだ。AIは社会を映す鏡ともいえる。私たちのモラルも問われている。”

[perousagi]

AIは人為的な制御を無くせば、人間の「無意識」の鏡となるのだろう。結果、おぞましいものが出現した所で、驚くには値しない。そもそも人間の「実存」とは何かを想像できない者がとやかく騒ぐ話ではない。

[kiku72]

“ルダが同性愛や人種、障害者について差別的な発言を連発”https://jp.techcrunch.com/2016/03/25/20160324microsoft-silences-its-new-a-i-bot-tay-after-twitter-users-teach-it-racism/ これってアメリカでも同じような結末に。ねらー的なのは外国にも