「AIの判断は人種差別的」米調査に見るAI人事選考の危険性

UCLA社会学研究科Ph.Dコース修了。北海道大学助手、京都大学助教、早稲田大学准教授を経て、現職。実験ゲームや進化シミュレーションを用いて制度・文化の生成と変容を社会心理学・大脳生理学分野の視点から研究しており、それらの研究を活かして企業組織にも様々な問題提起を行なう。現在はニューロビジネスという大脳生理学と経営学の融合プロジェクトのディレクターを務めている。代表的な著書に『不機嫌な職場 なぜ社員同士で協力できないのか』（共著、講談社刊）。その他『ソフトローの基礎理論』（有斐閣刊）、『入門・政経経済学方法論』、『フリーライダー あなたの隣のただのり社員』 (共著、講談社)など多数。 ニューロビジネス思考で炙り出せ！勝てない組織に根付く「黒い心理学」 渡部幹 この連載の趣旨は、ビジネスマンのあなたが陥っている「ブラック」な状況から抜け出すための「心」を獲得するために、必要な知識と考え方を紹

[myogab]

そりゃ旧弊に習えば旧弊が再現されるよ。しばし反動勢力が力を持ち直すのも同じ構図。AIに限った話ではない。

[Kukri]

入力されたデータの統計から出した結果のようにしか聞こえないが。AIらしく、無慈悲に客観的でいいと思う

[mahal]

というか、人事選考含む「待遇」という「根拠を明確化されないと人間が心理的に納得しづらいジャンル」において、深層学習的なブラックボックスでの判断はどう転んでも正統性を主張するのは難しい気はする。

[filinion]

以前から問題になっていた話（https://goo.gl/ZUukXJ）。「黒人だから再犯するだろう」は明白な差別だが、「AIがそう言ってる」だと反論が難しい。差別の無人化。AI自身が新しい差別・偏見を発明する可能性もある。

[daybeforeyesterday]

うーむ

[ryokusai]

何もないところから差別や偏見が発生するわけではないから当たり前の話では。

[globalizer]

こういう使い道があるのか。

[knok]

この辺を考慮するのが「公平配慮型データマイニング」でないかな https://kaigi.org/jsai/webprogram/2017/paper-320.html

[paravola]

驚くべきことに、実はこのコンパスへのインプットデータには、人種は含まれていないのだ。だが、出身地域、学歴、年収等、人種と相関の高い属性がセットとなって、人種を特定したのと同じ結果を出していた