MIT、人種差別的と批判された大規模画像データセット「Tiny Images」をオフラインに

米マサチューセッツ工科大学（MIT）は6月29日（現地時間）、多数のAIシステムのトレーニングに利用されてきた8000万点以上の画像を集めたデータセット「Tiny Images」をオフラインにしたと発表した。カテゴライズの用語に差別的なものがあると指摘されたため。 MITのアントニオ・トラルバ教授は声明文で、「影響を受けた可能性のある人々に謝罪する」と語った。 問題を指摘したのはプライバシー関連の米新興企業UnifyIDのチーフサイエンティスト、ビナイ・プラブー氏とアイルランド国立大学ダブリン校のアベバ・ビルハネ教授。両氏は6月25日、「Large image datasets: A pyrrhic win for computer vision?」（リンク先はPDF）という匿名の論文（7月1日に正式版を公開）で、Tiny Imagesに女性の画像に「売春婦」というラベルが付いていたり、黒

[hogeaegxa]

ポリコレが黒人共をポケットマネーで高く雇って、8000万件人力で選別させろよ。技術改善どころか、潰すことばかりで本当胸糞悪い。

[Aikoku_Senshi]

14年もの間「差別はなかった」ことになっていたんだな…"このデータセットは2006年に作成され、多数のAIシステムのトレーニングに利用されてきた"

[Vorspiel]

支持。技術のためなら倫理はどうでもいい、って人物は一般にマッドサイエンティストって呼ばれるからな

[houyhnhm]

問題を矮小化して考えると駄目で、どれくらい偏見が入ったのか分からないデータセットが沢山転がってしまっている問題である。

[knok]

Mechanical turk等のクラウドソーシングで人種限定でタスクを課すのはありなんだろうか。ImageNetは不適切な画像消す方向で対処してたな

[otihateten3510]

アメリカリスクだよ最早

[HanPanna]

id:hogeaegxa 偏見にまみれた教師データを作成した主体の属性は、非黒人の男が多いのだから、その作業さ非黒人の男が責任を持ってやるべきだ

[warwarwar]

ファクトを投げ捨てた先の差別のない正しい世界、いやあ楽しみだなあ。

[shinichikudoh]

伏字になってるけど「ビッチ」とか「ニガー」とかだよね。それを大学が配布していたのを今までおかしいと思わなかったなんてことあるかな。日本でも普通に知られている差別用語だよ。アメリカの方が後進国なのでは？

[mozukuyummy]

問題のある25枚の画像で、右上にある画像、「ボケて」系でよく見かけるやつだ。

[brain-owner]

“だが、解決のために例えばバイアスを完全に取り除くという考えは、単に問題を隠すことに繋がるとしている”→隠すというよりバイアスの無い世界を見せる方が大事。「差別があった」もバイアス掛かるから偏るだろ

[meganeya3]

これは「おキレイな世界にいると差別が見えない」問題に繋がるので、教師データをポリティカルウォッシュするとよりヤバくなる感じがするな

[omega314]

“Tiny Imagesに女性の画像に「売春婦」というラベルが付いていたり、黒人の画像に黒人の蔑称のラベルが付いていたりする例を具体的に挙げた”

[KoshianX]

まあこれはもともとそういう語彙を持ってたことが問題なのかな……

[taron]

AIが「差別」を学習しちゃう問題。

[misshiki]

“多数のAIシステムのトレーニングに利用されてきた8000万点以上の画像を集めたデータセット「Tiny Images」をオフラインにしたと発表”