[サンフランシスコ 10日 ロイター] - 米アマゾン・ドット・コムが期待を込めて進めてきたAI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。 事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの開発に従事してきた。
![焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で | ロイター](https://cdn-ak-scissors.b.st-hatena.com/image/square/25040e2e9364b44e052ef323c8ec4aff6d4238eb/height=288;version=1;width=512/https%3A%2F%2Fjp.reuters.com%2Fpf%2Fresources%2Fimages%2Freuters%2Freuters-default.webp%3Fd%3D199)
AIによる顔認識に、改めて批判の声が強まっている。 直近のきっかけは、アマゾンの顔認識AI「レコグニション」が上下両院28人の議員の顔を犯罪者と誤認識し、しかも黒人議員らの誤認識の割合が高かったという問題だ。 これ以前から、顔認識AIの誤認識、特に有色人種や女性の誤認識率が高いという「バイアス(偏見・差別)」の存在は指摘されてきた。 AIに潜む「バイアス」は、それによって就職やローン審査など実生活の場面で不利益を被る可能性がある一方、その判断の根拠がブラックボックス化してしまうという課題を抱える。 欧州連合(EU)で5月に施行された新たなプライバシー保護法制「一般データ保護規則(GDPR)」では、こういったAIなどによる「自動判定」を受けない権利を規定するなど、対処の取り組みも出ている。 顔認識AIに対しては、米マイクロソフトから米国内法での規制を求める声明が発表されており、急速にマイナス
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く