AIと差別の顔――FaceAppの性別転換と人種的プロファイリング - wezzy｜ウェジー

今年6月、人の性別を転換できる機能を持つ写真アプリFaceAppが日本で話題になった頃、ハリスバーグ大学の研究者たちは「顔認識システムによってある人がどれだけ犯罪を起こしやすいか予測できる」ソフトを開発したと発表し、強い批判を招いた。 この研究を発表しないよう求める公開状に1700人もの研究者が署名を寄せたのは、これが現代版の人相学、つまり人工知能（AI）に場所を移した「科学的人種主義」に他ならないと考えられたからだ（人相学とは人の相貌によって内面的性質や能力等をはかろうとする疑似科学で、19世紀には人種的優越性・劣等性を「科学的に証明」するものとして人気を博した）。 今、Black Lives Matter運動の最大の焦点である警察改革の要請によって、顔認識システムの人種・性的バイアスと権力の関係はこれまで以上に問い質されている。6月、IBM、Amazon、そしてMicrosoftは適切