誤ちを犯すAI、なぜ男性や白人を“ひいき”してしまうのか

さまざまなトラブルの元となる「偏見」は、人間だけではなくAIにも起こります。これはAIのバイアス（偏り）というもので、前回説明したように、AIのアルゴリズムや学習プロセスに問題があると偏った情報によって誤った判断基準が形成されるのです。この問題はAIの運用方法によっては致命的な欠陥になりかねません。なぜなら、AIはどんな状況でも同じ基準で物事を判断するためです。現実世界で起きている「AIの偏見」事例とその社会的背景を考察していきます。 合同会社Noteip代表。ライター。米国の大学でコンピューターサイエンスを専攻し、卒業後は国内の一部上場企業でIT関連製品の企画・マーケティングなどに従事。退職後はライターとして書籍や記事の執筆、WEBコンテンツの制作に関わっている。人工知能の他に科学・IT・軍事・医療関連のトピックを扱っており、研究機関・大学における研究支援活動も行っている。著書『近未来の

[misshiki]

“現実世界で起きている「AIの偏見」事例とその社会的背景を考察していきます。”

[okamotoy]

　何と云うか...「ゴリラ」に「失礼」な記事 :-p

[crexist]

誤ちを犯してるのはAIではなく教師データを収集してるほうでは？

[Tailchaser]

深層学習は全てデータに左右されてしまうので、サンプルはなるべく沢山を均等に用意しないと駄目なやつ。この場合は結局はこの画像は白人です、黒人です、って沢山のサンプルから新規の画像を判定するにすぎないので

[houyhnhm]

まとまってはいるが、結論が実はあんまり実際的ではなく。

[ms2sato]

"履歴書で男性がよく使う単語や女性がよく使う単語から履歴書の背景にある男女差に気づいて差別的な評価を下すことが明らかになったのです" 一度単語を変換する？それでも語順でわかったりするのか。凄いけど辛い。