性差別を模倣するAI、専門家ら警鐘

スペイン・バルセロナで開催の世界最大級のモバイル機器見本市「2018モバイル・ワールド・コングレス」の来場者（2018年2月28日撮影）。(c)AFP PHOTO / PAU BARRENA 【3月2日 AFP】人工知能（AI）は、構築に用いられるデータの監視を行わなければ、人間が持つ性差別などの偏見を模倣学習する恐れがあると、スペイン・バルセロナ（Barcelona）で開催された世界最大級のモバイル機器見本市で1日、専門家らが警鐘を鳴らした。 「2018モバイル・ワールド・コングレス（Mobile World Congress 2018）」で、コンサルティング大手アクセンチュア（Accenture）の技術部門責任者を務めるエマ・マクギガン（Emma McGuiguan）氏は、「コーディングを担当した人と同じ偏見をコンピューターは学習する。これは皆十分に承知していることだ」と語った。 AI

[Jcm]

これって結構急務なんだけど、技術者が社会科学やその専門家を「文系」と蔑んでいる場面を少なからず(←オブラートに包んでいる)見かけるし、事態は本当に深刻だと思う。

[lcwin]

AIと統計的差別

[paravola]

（「アファーマティブアクション」こそが差別かも）用いられるデータの監視を行わなければ、人間が持つ偏見を模倣学習する恐れがあると...GPS機器では女性の声を聞きたいのだろうということが暗に想定されていると...

[mahal]

機械学習のF5アタックというか、悪意をもって特定のイデオロギーをAIに外から「仕込む」データを大量にインプットするみたいなサイバー攻撃も、今後出て来たりするのかな。

[mozukuyummy]

おそらく内部の処理は「性差と相関性の高い項目の重み付けが大きい主成分を用いた判別器」的なものなので、性差の利用を禁止しても実質的には性差に他ならない指標がimplicitに使われるようになる気がする。

[daybeforeyesterday]

うーむ

[castle]

「人工知能（AI）は、構築に用いられるデータの監視を行わなければ、人間が持つ性差別などの偏見を模倣学習する恐れがあると～専門家らが警鐘」「コーディングを担当した人と同じ偏見をコンピューターは学習する」

[frothmouth]

“氏は、AI技術を構築している90％以上が男性であることを指摘。「これが最終的には、AIを構築している人々の偏見を増幅させることになる」と続けた。”

[browneyes]

「アレクサは以前、最悪にいやらしい名前で呼ばれた場合でも『フィードバックありがとうございます』と応じていた。今は『お答えできません』と返す」 ▶ 性差別を模倣するAI、専門家ら警鐘

[equilibrista]

そうね

[Innovator00]

"人工知能は、構築に用いられるデータの監視を行わなければ、人間が持つ性差別などの偏見を模倣学習する恐れがある"