ＡＩと「バイアス」：顔認識に高まる批判
ＡＩによる顔認識に、改めて批判の声が強まっている。 直近のきっかけは、アマゾンの顔認識ＡＩ「レコグニション」が上下両院２８人の議員の顔を犯罪者と誤認識し、しかも黒人議員らの誤認識の割合が高かったという問題だ。 これ以前から、顔認識ＡＩの誤認識、特に有色人種や女性の誤認識率が高いという「バイアス（偏見・差別）」の存在は指摘されてきた。 ＡＩに潜む「バイアス」は、それによって就職やローン審査など実生活の場面で不利益を被る可能性がある一方、その判断の根拠がブラックボックス化してしまうという課題を抱える。 欧州連合（ＥＵ）で５月に施行された新たなプライバシー保護法制「一般データ保護規則（ＧＤＰＲ）」では、こういったＡＩなどによる「自動判定」を受けない権利を規定するなど、対処の取り組みも出ている。 顔認識ＡＩに対しては、米マイクロソフトから米国内法での規制を求める声明が発表されており、急速にマイナス
ＡＩのバイアス問題、求められる「公平」とは何か？ | 新聞紙学的
性別や人種によって、ＡＩ（人工知能）から不当な判定を受けてしまう――。 ＡＩに潜むそんな「バイアス（偏見・差別）」を可視化するオープンソースのツールが、グーグル、ＩＢＭから相次いで発表された。 ＡＩはすでに採用やローン審査など、身近な場面で導入され始めている。 だが一方で、ＡＩに潜むバイアスの問題は、様々な場面で批判の的となってきた。 ※参照：ＡＩと「バイアス」：顔認識に高まる批判（09/01/2018） これらの可視化ツールは、そんなバイアスの排除につながるのだろうか。 そして、そもそもＡＩにおける「公平」とは何か、という問題の難しさも改めて浮き彫りになっている。 ●モデルを可視化する グーグルが１１日に発表したのは、機械学習（ＭＬ）のバイアスを可視化するツール「ワット－イフ」だ。 「ワットイフ」は、グーグルの機械学習ライブラリ「テンソルフロー」の可視化ツール「テンソルボード」のアプリケ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
