井上純一（希有馬）新連載『逆資本論』の同志募集中 on Twitter: "Twitterは自動的に白人をサムネにするとの噂。 肌の色が違うだけだと同じ部分がサムネになる(一枚目と二枚目）けど、絵を黒人っぽく修正すると……（三枚目と四枚目） 漫画絵でも黒人らしさを判別するアルゴリズムすごい。 https://t.co/bRtId3j5Gq"

Twitterは自動的に白人をサムネにするとの噂。 肌の色が違うだけだと同じ部分がサムネになる(一枚目と二枚目）けど、絵を黒人っぽく修正すると……（三枚目と四枚目） 漫画絵でも黒人らしさを判別するアルゴリズムすごい。 https://t.co/bRtId3j5Gq

[sds-page]

興味深い　https://twitter.com/seidotaikou/status/1307770570491084800

[ynhl]

これ最近機械学習界隈で問題になってる。例えば自動運転車が実用化されたときに、マイノリティが機械に認識されづらくて、彼らだけ事故率、死亡率か高かったりすることだってあるわけで

[gabill]

学習に使ってるデータが偏ってるんだろうね。

[sangping]

へえ。前になんか話題になっていた「機械学習の元データが白人に偏りがちなので……」とかそういう話？

[knok]

顔画像データセットで有名なCelbAに偏りありそう、と思って調べたら種族、性別、年齢を均一にしたFairFaceというデータセットが提案されていたことを知った https://arxiv.org/pdf/1908.04913.pdf/論文内でCelebAに偏りはあるとされてる

[mangakoji]

これ15年前の顔認識初期の時代から言われてて、黒人サンプルが少ないよりも、コントラスト差が減って純粋に判定が難しいってのがある。って何かで読んだ。 単にうわさかもわからんが。

[taguch1]

やっぱ学習結果に面白いストーリーをつけられることになるよな。

[anigoka]

人種じゃんけん

[warwarwar]

白人が一番使ってるから確率的に最も正解の可能性が高いものを最初に出すというだけの話では？実際何が一番使ってるかは知らんけど。それすら差別と呼ぶなら人類に人権もAIも早すぎたな。

[kurimanju]

白人＞黒人＞アジア人？（リプ見ると表情も考慮されてる？）　 https://twitter.com/ronbun_3/status/1307614925603258373?s=19

[tick2tack]

顔判定で学習データが偏ってるため判定されやすさに差があるって話あった気が。米国は白人が7割なんでそういうの関係してるかも。漫画絵でもそうなるのは面白いな。この例だと違うが顔の暗さも影響するだろうな。

[bigchu]

闇だ

[kijtra]

AIもヒトと同様に、偏りなく均質な性格に育つのは難しいんだな。

[h1roto]

機械学習のデータが偏るのか、ヒトを識別する上での色彩の問題なのか…。これが炎上したら「黒人をサムネにする確率を上げる」ための処理が入ってしまいそう

[lifefucker]

顔画像のデータセットは色々問題出てるからねー

[for-my-internet-demo]

おもしろい。データセットか

[jacoby]

Amazonが採用にAI使ったら、学習データの女性採用事例が少なすぎて、男性有利になってAI採用やめた事を思い出した。AI使うなら統計的差別に気をつけんとね。

[skypenguins]

みんなちゃんと読んでるのかな→画像を最適かつ自動的にトリミングするニューラルネットワークのご紹介 https://blog.twitter.com/official/ja_jp/topics/product/2018/0125ML-CR.html

[kiyo_hiko]

一生使わなさそうなTipsだ。

[Kandata]

認識率を持ち出している人がいるけど、認識自体はされてるから関係ない。ちなみに黒人の顔を白人より大きくすると黒人が選ばれる。大きい人優先で、次に白い人優先

[aike]

機械学習を知らない人が想像するような悪意あるルールベースのアルゴリズムは入ってないだろうけど、ルールベースを入れてでも補正すべき問題ではある。

[BlueSkyDetector]

これ自動運転でトロッコ問題が発生した時に生命を優先する順番とかになってたらこわいな。AIがより人間と認識できるものの生命を優先する方が助けられる生命の期待値が多くなるとしたら、そうなりそう。

[ultimatebreak]

人類はもうダメです。AIに人類絶滅させよう

[underd]

あとでよむ

[a_horuru]

黒猫の撮影はピント合わせにくいのと関係あるかな？

[Gl17]

以前にAIがレイシストに調教されちまった実験失敗事例のように、あるがまま全て中立に受容したら悪貨が良貨を駆逐するのが"自然"という話では。文明や人権等は人工的価値観だし、放置したら街は荒野と化す。

[filinion]

「にんげんが写っている部分を自動で検出してサムネにする」という機能が、白人を優先的に「にんげん」と認識していると…。もちろんAIは「差別意識」を持っているわけではないが、結果としては差別的になっている。

[white_rose]

まじだ。絵柄のせい？

[behuckleberry02]

黒人はコントラスト不利だからね。アルビノ混ぜて試してみたい。

[TakamoriTarou]

AIが導いたといっても、それがニュートラルなj評価であるというわけではありませんよ、と言うお話で。

[sakana315]

輪郭線の色の差とかありそうじゃない？ 輪郭線を肌の色の中間色とかでやってみてほしい

[hisawooo]

「学習データに偏りがあるね」くらいの話に「差別のレッテルを貼られた！」と吹き上がってる人がいますね。

[estragon]

人種以外に、表情にも依存するとのこと。メガネとかも影響するのかな

[chiguhagu-chan]

微博でやったらアジア系がサムネになるんかな

[omega314]

技術的な事情があるのもまあ分かるがシンプルに不愉快だよねこういうの。

[oakbow]

黒人だけだとちゃんと顔認識してそうなので、重み付けが違うんだろうね…。昨今は機械による人種差別も問題化しつつあるらしい

[komutan1]

学習データじゃなくて白人のサムネの方がクリック率が高くて最適化されたんじゃないの？

[pazl]

これ、光学的な問題が大きいのでは？カメラのオートフォーカスだって黒人ほんとブレまくるから。白人に最適化されてると言うより、黒の色情報の扱いが難しい。

[mats3003]

中国のAIがリードする時代になったら、アジア系がサムネイルを占めるようになるかもね。コントラストの問題なら、黒人がアジア系に優先されるのは不思議。

[spark7]

ゴリラ問題再発して機械的に中央トリミングとかになるのかしらね