TwitterのAIバイアス発見コンテスト、「若くてスリムな顔優先」発見に3500ドル

米Twitterは8月9日（現地時間）、7月に発表した投稿画像のトリミングAIに潜在するバイアス発見コンテストの勝者を、ハッカーカンファレンスDEFCONで発表した。1位は、アルゴリズムが「スリムで若く見え、肌の色が薄い顔を優先する」と指摘したスイスのEPFL工科大学の大学院生、ボグダン・クリニッチ氏。同氏には賞金3500ドル（約39万円）が贈られる。 米Googleなど、脆弱性の発見者に報奨金を提供する企業は多いが、Twitterの報奨プログラムはアルゴリズムのバイアス発見が対象。 Twitterは2018年から投稿画像のトリミングにAIを採用しているが、昨年9月にこのトリミングが人種差別的だという指摘を受け、調査している。5月には関連コードを公開して外部に協力を仰ぎ、7月にコンテストを発表した。 優勝したクリニッチ氏によると、TwitterのAIは、「スリムで若く、明るいか暖かい肌の色

[cinefuk]

#BogdanKulynych @hiddenmarkov「TwitterAIはスリムで若く、明るいか暖かい肌の色、なめらかな肌の質感、女性的な顔の人々を優先する方向に偏っている」「少数派の集団の排除と、ステレオタイプの美しさの基準の永続化に繋がる」

[misshiki]

“「スリムで若く、明るいか暖かい肌の色、なめらかな肌の質感、女性的な顔の人々を優先する方向に偏っている」...「このバイアスは、少数派の集団の排除と、ステレオタイプの美しさの基準の永続化をもたらす可能性”

[asiamoth]

“スリムで若く、明るいか暖かい肌の色、なめらかな肌の質感、女性的な顔の人々”の方が少数派なのでは🤔❓（火にニトロを注いでいくスタイル）

[bluesura]

面白いアプローチ