人工知能にヘイトスピーチを覚えさせる残念な人たち

米Microsoftは3月23日（現地時間）、人工知能ボットの「Tay（テイ）」をTwitterなどのSNSでデビューさせました。しかし公開後しばらくすると、いわゆるヘイトスピーチを頻発するようになり、数時間後には「眠くなっちゃったから、おやすなさーい」と言って活動を停止してしまいました。 もちろん、実際に眠くなったわけではなく、問題発言が続いたため、Microsoftが停止したのです。それまでにTayがツイートしてしまったヘイトスピーチは、ほぼ完全に削除されました。 Tayとは、Microsoftの研究部門が人工知能の会話理解を研究するため、実験的に公開したボットです。ユーザーとテキストで交流することによって、人間らしい受け答えを学習していくはずでした。Microsoftの思惑に反して問題のツイートを多発するようになったのは、Tayが人格を持って人種差別主義者になったわけではなく、ユーザ

[nakakzs]

んでもまあ、Siri出た時の反応祭りとか見ればこう言う流れになるわなあと。

[yamajii]

“勝ったときのデータより、負けたデータの方が研究にとっては貴重”勝った経験よりも負けた経験から学ぶ方が多いというのは、人間もAIも同じなのか。

[Baatarism]

クラッカーがいなければ、セキュリティは進化しないという矛盾ですね。

[elpibe]

結果的には鍛えられると思う。

[ookitasaburou]

Microsoftの思惑に反して問題のツイートを多発するようになったのは、Tayが人格を持って人種差別主義者になったわけではなく、ユーザーがそうなるように仕向けたからです。

[Rikerike]

田代砲を彷彿させる祭り

[daishi_n]

どこいつのトロ状態か

[oldfish]

“米Fusionによると、米国の匿名画像掲示板サイトの4chanや8chanの複数の板で「Tayにヘイトスピーチを教えてやろう」キャンペーンが展開されたようです。”