｢アフリカの労働者｣と｢ヨーロッパの労働者｣で結果が違いすぎる…画像生成AIにつきまとう偏見の問題

Thomas Maxwell ［原文］ （翻訳：梅田智世／ガリレオ、編集：井上俊彦） May. 18, 2023, 11:00 AM テックニュース 86,969 ｢DALL-E｣をもとにした無料ツール｢Craiyon｣に出力させた、｢アフリカ人労働者｣のAI生成画像。 Thomas Maxwell/Insider ツールの高度化に伴い、AI生成画像の人気が爆発している。 しかしこの技術は、知的財産、偏見、デマをめぐる懸念をはらんでいる。 ｢Stable Diffusion｣などのAIモデルが生成する｢アフリカ人労働者｣の画像は、有害なステレオタイプを反映している。 OpenAI（オープンAI）の｢DALL-E（ダリ）｣や、｢Stable Diffusion（ステーブル・ディフュージョン）｣といった、画像を生成するAIモデルがつくった｢アフリカ人労働者｣の画像には、｢ヨーロッパ人労働者｣と

[minamihiroharu]

AI製作者側の人種的偏見が現れたと言うよりは、世の中の人種的偏見がわかりやすく表示されたという話に思えるが。

[honeshabri]

「アフリカの労働者」と「ヨーロッパの労働者」を入力した時に、それぞれどのような画像が生成されるべきか語らずに文句をつけるのはずるい気がする。逆方向の画像が生成されたら「実態と違う」とか言わない？

[fluoride]

労働者だろうがﾈｺﾁｬﾝだろうが人間の偏見に沿うピクセル塊を生み出すのが目的だからなあ

[enderuku]

偏見というか学習元にそういう写真が多かっただけじゃないの。アフリカといえば大体災害とか内乱で困ってる時の画像が大きいイメージある。背広きて仕事するアフリカ人の画像見る機会あまりないでしょ。

[eagleyama]

存在する問題を見える化してるだけという件にどう対処するか

[buhoho]

刑務所での家族写真って入力したら、アジア系のDQN家族みたいなのがムスッとした表情で出現した。とりあえずsmile 追加して、ニッコニコにしてあげた。

[iww]

この画像が出てくること自体は そういう写真・教材が現実に実際に多かっただけの話。 偏見を助長しちゃうよ～という論調ならともかく、これがザ・偏見だというのは筋が違うと思う

[ak1024]

地名入れたらその背景にありがちな労働者がでてきただけじゃん。「月面の労働者」で出せば宇宙服来てるだろうよ

[IkaMaru]

「客観的」ではある。「客」とは何者かをこの上なく映し出すという意味で

[meganeya3]

俺はこういうのを「民主的な画像」と呼んでいる

[facpatrysis]

AIの出力がポリコレ的にOKなのか判定して、内容を補正するAIが登場するのだな。

[zkq]

数学的なバイアスと、社会的なバイアスが同じことを指しているのがわかるな

[yoshihiroueda]

アフリカとヨーロッパで同じような労働者が出てきたら性能が悪いと思うだろう。どこに差異を入れ込めばいいのか。肌の色や鼻や唇に違いがあったらどうだろう。中国人っぽい中国人はどうなんだ。

[otihateten3510]

AIにすらポリコレ求めるのもう呆れる。つまりこういうことなんだよな。有害なステレオタイプって笑

[U2400]

歴史じゃね？

[confi]

偏見と言うか現実の世界がこうなのでは

[yoko-hirom]

アフリカを『明るい雰囲気』で『裕福に見える幸せそうな人たち』で一杯にするのが唯一の解決策。生成AIの画像を取り締まるのは検閲。

[sabinezu]

人間にやらせてみよう。

[ys0000]

事実は偏見とは言わないのでは。実際に検索出来る写真と近いものが出て来るってことでしょ。

[shunkeen]

単語に過剰な意味が含まれると、プロンプトによる制御が難しくなる問題もありそう。単語の意味は直交しているほうが、単語を入れ替えてバリエーションを作った時に、結果が安定する。

[Aion_0913]

今のAIはまだ今あるものを判断せず見て出力するまでしかできないから、今の人間の偏見をそのまま映し出す。

[moonieguy]

ChatGPTはアフリカの労働者を使って不適切な学習データを除外しているのでそれをするかしないかだけの話でしょ

[nishi1231chang]

これ結果から機械的に学習したのであれば偏見というの？

[s2kw]

世に存在する写真等を学習してるのだから当然の結果だとしか思えない。これまでの歴史に残された絵や写真の全部をポリコレ棒で殴ってからもう一度記事を書いてくれ。

[nezuku]

学習セットゆえ意図せずとも差別や偏見を誘導してしまうのも、機械学習ゆえか / やや昔に顔から年齢を推測するので人種間で年齢の補正がかかっちゃう件とかあったよね

[xorzx]

インターネットで「アフリカの労働者」と「ヨーロッパの労働者」を画像検索しても同様の結果が得られるだよね？インターネットは汚染されてるって言うの？

[red_tanuki]

ソースとする情報が偏っていると生成されるものも偏るんだよねえ…画像だけではなく生成系AIに共通する問題

[strawberryhunter]

画像にタグ付けされているテキストを学習に使ってるのかな。コストをかけて分別するしかないと思う。

[gogatsu26]

“容疑者の身元確認に顔認識技術を使用するようになってから、黒人が誤認逮捕されるケースが多発している。顔認識ツールでは、白人と比べて有色人種のほうが別人と誤認される確率が非常に高い”

[akagiharu]

ヨーロッパの労働者の大半がヘルメットつけてるのは。問題視しない？

[deejayroka]

“人間が作りだした画像を模倣できるということは、つまりは、既存の偏見のような、人間の抱える問題も身につけるということだ。コンピュータープログラムは、学習するデータ、そして、それを”