AIを活用するリスクに目を向け、アルゴリズムによる加害を止めよ：朝日新聞GLOBE＋

数学者、データサイエンティストとしての経歴は多彩だ。ハーバード大で数学の博士号を取得し、米名門女子大バーナード・カレッジ教授を経て、ヘッジファンドに転じ、クオンツ(金融工学の専門家)として数兆ドル単位のマネーを動かす演算式を操った。 だが、2008年のリーマン・ショックですべてが変わった。「私が心から愛した数学は、壮大な力をもつがゆえに、テクノロジーと結びついてカオスや災難を何倍にも増幅させた」。その反省を踏まえ、彼女はデータ経済の行く末に警鐘を鳴らす。数学的破壊兵器(Weapons of Math Destruction)を野放しにしたら、どんな未来が待っているのかを……。 ■何が起きているのか ――どうしてアルゴリズムに基づくビッグデータ活用に警告を発するようになったのですか。 「それは、ヘッジファンドに勤めた経験が大きい。金融のアルゴリズムは、金もうけには力を発揮するが、リスクの予測

[kiku72]

“ビッグデータやAIの活用のどこに問題があるのでしょう。 「機械であるAIが血の通わない数字であるデータを淡々と処理するだけだ”

[bandeapart72]

"2008年のリーマン・ショックですべてが変わった。「私が心から愛した数学は、壮大な力をもつがゆえに、テクノロジーと結びついてカオスや災難を何倍にも増幅させた」"

[ppummu]

忖度じゃないけど、そうしたらこうなりますよを言い表させてるだけじゃん。

[mmsuzuki]

“大きな需要と無知が一緒に存在する場所では、このような略奪型広告がはびこりやすい。情報や教育で弱い立場の人が最も犠牲になりやすい”