【AI】 Googleの人工知能、「黒人」と「ゴリラ」を2年かけても判別できず ゴリラタグを削除する結果に : 痛いニュース(ﾉ∀`)

【AI】 Googleの人工知能、「黒人」と「ゴリラ」を2年かけても判別できず ゴリラタグを削除する結果に 1 名前：サーバル ★：2018/01/15(月) 16:14:46.33 ID:CAP_USER9 波紋を呼んだ「ゴリラ」誤認識、機械学習ではいまだ解決せず 2015年、グーグルは大きな非難を受けた。グーグル・フォトの画像認識システムが黒人女性をゴリラと認識してしまったからだ。しかし、2年経った今でも、問題は適切に修正されていない。その代わり、グーグルは多くの霊長類に関連する画像タグを検閲して削除している。 ワイアード（Wired）は多くの動物の写真を使ってグーグル・フォトを再度テストした。確かに、パンダからプードルといった動物については簡単に認識できることは分かった。しかし、ゴリラやチンパンジー、それにヒト科に分類されるチンパンジー属の画像については、ラベル付けされていなかった。

[RM233]

この画像は極端かもしれないが、俺達にはゴリラじゃないってわかるよね？俺達にはできてAIにはできないことって、AIの発展上で貴重なサンプルだ。表では差別に配慮してタグ消ししても、裏では研究を進めていそう

[ichiken7]

もう差別だとか怒るとかじゃなくて、「ウホウホウホって、私ゴリラちゃいますねん人間ですねん」と笑える世の中になってほしい。

[amateur2010]

AIがポリコレ棒で叩き壊される未来が見える。さておきヒトとゴリラは遺伝子的には98％以上一緒らしいから、精度もそうなるのは無理もない。

[nunnnunn]

これ、悪意のある人間が黒人にゴリラタグをつけまくって、AIがそれを学習してしまった結果なのを注記しておきたい

[yzkuma]

この問題は「ゴリラが人間より劣る」という謂れのないゴリラ差別が根底にある

[UhoNiceGuy]

>>160の「100万枚の画像が正しくても1枚の画像が…」が本質だろう。人間がやっても完全なカテゴライズなんて無理だろう。今までは扱うデータの量が少なかったし、それでも問題はしばしばあったんじゃないかな

[valinst]

ゴリラの肌が白くて金髪だったら、白人の写真でゴリラって認識されるのがあっただろうし、こんなのはAIが悪いわけでも黒人差別でもなんでもない。

[aramaaaa]

こういうのに「おもしろ」タグつけて喜んでる中、日本には黒人差別がないとか言っても説得力がないね。

[nankichi]

学習データ、どうやって準備しているのだろうか。黒人画像をゴリラとタグつけた学習データセット自体を抽出してそこの特性を調べたらweb上の偏見・差別の構造の一端がわかるのでは

[blueboy]

ディープラーニング式のＡＩ でなく、顔認識ソフトを使えば、解決するだろう。ただし、処理時間がものすごくかかる。大量処理には向いていない。それだけのことだ。（不可能ではなく、時間がかかる。例。１秒。）

[hard_core]

問題はAIの精度であり、差別云々ではない。例外処理を人間が担うという対応になるなら情報を削除せよという考え方が正しいのかどうかは考えさせられる。

[ryuzi_kambe]

そうなると、アルビノのゴリラ特別がつかないペアになるのは何になるんだろうな。 http://www.afpbb.com/articles/-/2948676

[HanPanna]

人の差別や偏見を学習してこの結果になったってことでしょ？

[okumuraa1]

でも仮にaiが差別を学んでしまったら、誰が悪いって話になるのかな？

[thesecret3]

AIと人間の違いは身体性で、動物は危険か否か？食べ物か否か？SEXの対象か否か？は細かく判断できるようになってんだろね。

[ninjaid2000]

縁取りと色？顔だけだから？顔認証は光学的で、人工知能とは違う？自転車とか、１体でも10体とかでは無理では？とか、分かりません。

[takeishi]

全部霊長類タグにすれば嘘にはならないが

[misakiushida]

つまり、浜ちゃんを認識できないってことか

[b0101]

そこまで黒人をゴリラ呼ばわりする奴がいるのか？

[misomico]

汚い世界では汚い学習結果しか生まれない

[mnox]

もうこの際、“or” をつけたらいいのでは。gorilla or human

[akagiharu]

人・ゴリラ という項目にしてはどうか。

[agh9usdges]

元の学習データが悪い。

[dgen]

ゴリラよりもオランウータンに似てる。

[wonodas]

むしろなぜゴリラタグがあるのか…

[h5dhn9k]

元データに偏見が含めれてるのは理解できるが、同時に修正も容易に出来そうなモンなんだけどな。人間が『ゴリラ』タグの中から黒人を見つけ出して再設定すれば良よさそうなモンだけど……。

[go_kuma]

教科書が人間ならしゃーないってこと？

[vanillableep1618]

AIは、日本人を黄色い猿って認識するようになるんだねwww

[jojo800]

グーグルに黒人エンジニアいるだろうし、偏見に満ちた教師データになるなんてあるのかなぁ、、、

[te2u]

学習データが偏っていたことが原因のよう。Alpha Go Zeroのような教師なし学習であれば、判別できるのだろうか。

[timetrain]

抽出し切れていない特徴量がある、という単純な話なのか、そうでないのかによってずいぶん今後の展開が違ってきそう

[thnn]

今は見分けがつかない。それだけのこと。

[gorgeous1020]

ゴリラを黒人に分類したらいいんじゃない

[hagyou]

偏見でデータセットが偏るとか言ってるけど、そもそも人以外の動物なり無生物なりを一気に分類してるっぽいし単にそういうタスクで精度出すのが難しいだけなんじゃないの。

[nobububu]

皮肉や冗談の理解はまだまだ先。というか今の技術の延長にあるのかもわからん。