グーグル、黒人を誤って「ゴリラ」とタグ アルゴリズムの限界か

This copy is for your personal, non-commercial use only. Distribution and use of this material are governed by our Subscriber Agreement and by copyright law. For non-personal use or to order multiple copies, please contact Dow Jones Reprints at 1-800-843-0008 or visit www.djreprints.com. http://jp.wsj.com/article/SB10468926462754674708104581082773456994848.html

[shikahan]

そのうち人工知能が「チッうるせーな…人種差別？は？どうせお前らは等しく無価値な生身の猿だろ潰すぞ」とか言い出す

[ko_kanagawa]

こんな一時的に出来た瑕疵を、さもテクノロジーの限界かのように謳う視点そのものが非常に蔑視的だし、技術の進歩を馬鹿にしているタイトルだと思う

[shoh8]

小さい子が「おばさん」の性別を判断できないで、首を傾げながら「おじさん？」と指差してる光景が浮かんだ

[migurin]

『グーグルはゴリラ・カテゴリーを除外し』え？そんな安易な解決方法でいいの？じゃぁゴリラはどうしたらいいの？

[midnightseminar]

逆のパターンで、MacのiPhotoの顔認識機能（「誰」なのかを学習させられる）が、ジャガイモの画像を何度もしつこく俺の後輩（女）と認識して「○○さんですか？」と訊いてくる。確かに丸顔ではある。

[sho]

訓練不足の機械に対して鷹揚な態度をとれるかどうかは、これからのITリテラシになるんじゃないだろうか。

[your]

ゴリラの写真載せたら「黒人」とタグ付けられて、ゴリラに「俺超温厚といわれてるゴリラゴリラゴリラだけど、野蛮な人間と同一視されたらさすがにゴリムカつくわ」とか言われるまで想像した

[sp_ice]

ウチの犬も、「猫」にタグづけされたぞ！猫タグも除外しろ！(違う)

[MagnesiumRibbon]

"アルゴリズムの限界か"とか煽ってる記事で「マシン学習」とか書いてあってマジで味わい深い/Excite翻訳だとマシン学習になることを発見した

[guldeen]

笑ってはいけないのだろうが、「無垢」はしばしば『社会配慮』に欠ける事と重なる典型のような例。

[nunnnunn]

あまり詳しくかかれているわけではないが、当時の記事

[napsucks]

ありえないレベルでひどすぎて笑えた。ゴリラのカテゴリを削除したらこんどはゴリラを黒人に分類して問題になりそう。

[kakei]

酔っぱらって床に寝てる人間が「イヌ」にされるのもこれと似たような理由なのかな

[habarhaba]

子供がやったこと

[dkinyu]

グーグル、黒人を誤って「ゴリラ」とタグ  アルゴリズムの限界か - WSJ

[hazisarashi]

俺の Google Photos では、日本人女性が「犬」に分類されてて、ちょっとあれだったので写真ごと消して無かったことにした

[lenore]

実際に写真を見ると仕方ないレベルだった。今後は「顔」とか無難なタグを付けつつ、裏でどんどんポリティカル・コレクトネス含め学習するのだろう。

[airj12]

ゴリラとタグ付けされている友人の写真をSNSにUPするのもどうかと思うが

[nakakzs]

音ゲーが滅茶苦茶上手い人にそのタグがついて揉める展開など。

[homarara]

「われわれは愕然とした。こうしたことが起きて本当に申し訳なく思う」　←将来、この記事はゴリラ差別のサンプルとして槍玉に上げられるだろう。差別とは、している本人には何の悪意もない物である。

[narwhal]

一方世界の果ての某国では、とある高貴なお方の孫娘が猫に「ニンゲン」と命名したと報ぜられた。

[ibadora]

Machine learningをマシン学習と訳している？笑

[ngsw]

これ差別とかにしてはいけない問題と思うんだよな。問題にするとしたら「勝手に俺の友人をタグ付け対象にするな」って程度にしとくべきかと思った(多分規約に同意してるとは思うが)。精度の問題としたい。

[satmat]

このアルゴリズムは、大相撲とAVを区別出来るのだろうか

[peppers_white]

アフリカ人種の手によって修正されたらかっこいいんだがな

[aya_momo]

アルゴリズムだからしょうがない、みたいなのってなんとかならないのかな。「IT無罪」みたいな。

[nakashi]

日本人が猿と間違えられた話だったらロイターの世界のこぼれ話ネタだったな。

[Dai44]

ブタゴリラやゴリライモのことを思った。

[wasai]

仕方ないかもしれんな、とはいえこれも学習して更に良くなりそうだが

[yamadar]

ゴリラが黒人とラベリングされたら、それはそれでアウト。

[kamei_rio]

誤解を恐れずに言えば、ゴリラと判断される確率は白人より黒人の方が高いし、ブタと判断される確率は黒人より白人の方が高い

[urtz]

無邪気な子どもがポリティカル・コレクトネスに反するようなことをポロッと言っちゃうようなある種AIの精神年齢を示しているのかもしれない。今見たらうちのネコも犬にタグ付けされてるんですけど！

[ikihaji_kun]

将来は人工知能も侮辱罪やヘイトスピーチで罰せられるようになるのかな

[RocRoc36]

今度はゴリラに黒人というタグが？

[u4k]

限界？それどころかサービス開始後すぐにこんな課題に行き当たるなんて、ディープラーニングとか人工知能のスピード凄まじいとしか言いようがないよ。

[toksato]

所詮は機械がやることに対して人がマジレスするほどにテクノロジーが発達したという記事ですね、わかります。

[hakuoh]

適合率を考えるなら、ゴリラの写真なんて少ないんだし、ゴリラをを人として認識すれば問題ないと思うんです。

[hazardprofile]

"Sally, I'm just a gorilla."

[hhungry]

高度に発達したゴリラは黒人と区別がつかない

[hdance]

人が人間の顔を認識する能力は、他の物を認識する能力に比べて異常に高いらしい。人っぽい認識のしかたをするには、偏った学習をさせないといけないんだろうなあ