YouTuberが4chanでAIを訓練して「ヘイトスピーチマシン」を生み出しネットに放流してしまう、AI研究者は困惑と懸念を表明
世界最大規模の画像掲示板である4chanは、多くの匿名ユーザーによりサブカルチャーから政治まで幅広いトピックの会話が交わされていますが、比較的検閲が緩いため過激な言論やヘイトスピーチの温床にもなっています。YouTuberのYannic Kilcher氏が、4chanの中でも特に物議を醸す「/pol/(Politically Incorrect板、政治的非中立／政治的に正しくない／非ポリコレ板)」から抽出した330万件のスレッドで訓練したAI「GPT-4chan」を作ったところ、過激で人種差別的な発言をまき散らす「ヘイトスピーチマシン」が誕生してしまったとのことです。 This is the worst AI ever - YouTube AI Trained on 4Chan Becomes ‘Hate Speech Machine’ https://www.vice.com/en/ar
女性の声のＡＩアシスタント、性差別的偏見を助長 ユネスコ報告書
アマゾンの「アレクサ」やアップルの「Ｓｉｒｉ」といった女性の声のＡＩアシスタントが性差別の偏見を助長するとの報告書が発表された/Amazon （ＣＮＮ Ｂｕｓｉｎｅｓｓ） 国連教育科学文化機関（ユネスコ）がこのほど発表した報告書で、アップルの「Ｓｉｒｉ」やアマゾンの「アレクサ」など初期設定で女性の声が使われているＡＩパーソナルアシスタントについて、性別に関する固定観念を定着させ、性差別的な発言や乱暴な発言を助長すると指摘した。 報告書では、そうした女性の声のパーソナルアシスタントについて、「女性は愛想が良く従順で、いつも人を助けて喜ばせたいと思っており、ボタン１つ、あるいは音声で命令するだけで利用できる」という概念を固定させると警鐘を鳴らした。 ユーザーが性虐待的な言葉を浴びせた場合でも、ＡＩアシスタントからは受動的で丁寧な反応が返ってくるとも指摘。「女性は従順で、不当な扱いも我慢するとい
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
