AIは中立ではなく「女性嫌い」 検証結果で見えてきた負の側面 | AERA dot. (アエラドット)

マサチューセッツ工科大学のジョイ・ブォラムウィニ氏による調査では、米国の誰もが知る著名な黒人女性たちを、ＡＩが「男性」と判定（同氏の動画から）（ジョイ・ブォラムウィニ氏提供）この記事の写真をすべて見る 米ラスベガスで１月に開かれた世界最大級の見本市「ＣＥＳ」でも、「スマートホーム」や自動運転技術など、ＡＩ関連の最新展示が席巻した（写真：Ｇｅｔｔｙ Ｉｍａｇｅｓ） 人間のクイズ王者に圧勝したことで知られるＩＢＭのＡＩ「ワトソン」は、採用選考のエントリーシート評価にも使われている （ｃ）朝日新聞社 人工知能（AI）による採用審査など、日本でもAI社会の広がりを身近に感じるようになった。だが、AIには「女性嫌い」という厄介な偏見があり、「ヘイト」を増幅させる危険性もある。朝日新聞IT専門記者の平和博氏がAIの実態をレポートする。 【写真】人間のクイズ王者に圧勝したことで知られるIBMのAI「ワト

[timetrain]

元になるデータがそうだからそうなる

[imatac]

「うちがAI使って人材配置とか評価とかやったら過去の傾向から年上の人を昇進させるべきって結果になっちゃいますね笑」って言う大企業の人事部長に会ったことある

[vanbraam]

AIの偏向は,"AIがこういう判断を示した"という理由で権威化する事が最大の問題.単なる過去データの集積でしかないという共通認識を広めるしかない

[junglejungle]

いち会社内のみの効率や合理化を機械的に判断したら女性差別的になってしまうというのは当たり前。産休育休だけ見ても。少なくとも社会全体で判断しないと少子化進んで会社自体が維持できなくなる。

[el-condor]

だからAIの時代こそその妥当性を検証するための良質な人文科学的素養が必要なわけだよね。某大ロボを研究してる某氏をはじめこの分野の研究者でその重要性に気付いている人は少なそうだけど。

[reachout]

AIは悪くないやないか、明らかに育て方が悪い。人間と同じだよ。

[Louis]

AIは過去の延長線上でしかない、という悲しさ

[dekaino]

AIは現行のやり方の効率を上げたりコストを下げたり速度を上げたりできるだけで、飛躍した革新的なことはできないということ。

[filinion]

「教師信号」である人間社会が差別的だから、AIもそれを模倣してしまう、という話。男女差別に限らず、黒人やヒスパニックが不利になるとか色々な問題がある。

[laislanopira]

機械はクソな人間に無批判に学ぶからどこまでもクソ

[ipheion0916]

“『悪のAI論 あなたはここまで支配されている』（朝日新書）”の広告記事か。広告だということは冒頭に前置きしろよ。でこの本のターゲットはミソジニーと女性ですということか？日本語使う気ないのか？

[mojisan]

学習に使うデータの選び方で、選びたい物だけ選べる。でも、AIだから公平。と、アピール出来る。 それが、今のAIの限界でもあるのでしょう。

[stp7]

「マッチョ」なデータでディープラーニングしたらAIも「マッチョ」になる

[ysync]

採用時の履歴書データと採用履歴を元に、何を持って高得点と設定したんだろうか？／十数年後の全体業績とか？それとも個別の昇進とか？

[knok]

この辺に関する研究論文もそこそこ見かけるけどなかなか難しそうである

[quick_past]

そりゃインプットするものにバイアスかかってたらその結果もバイアスかかるわいな。

[zyzy]

逆に教師データが女性差別的である事が可視化されることで、社会が女性差別的であることの指標が取れる、という事でもある。無自覚の差別を暴く数値に出来る。データは使いよう。