「AIが神格化した世界」はディストピアか？ AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例AIの“神格化”を回避せよ 「異議を唱えられること」の重要性 この一件から得られる教訓は「AIのバイアスには注意せよ」だけではない。もう一つ大切なのは、AIが下した判断に異議を唱えられる仕組みを用意しておくことだ。 レナーテさんのケースでは、彼女が「不正受給者である疑いが強い」というブラックリストに自分が載っていることをつかんだのは、児童手当の返金要求があった10年から実に9年後の19年のことだった。その間彼女は「不正」という判断を一方的に受け入れるしかなく、身の潔白を訴えても当局から聞き入れられることはなかった。 しかし前述の通り、彼女と同じ誤認の被害にあった人物が、数万人単位で発生していたと見られている。中には彼女や、他に裁判を起こした人物と同様、「何かおかしい」と当局に訴えた人々も少なくなかったはずだ。それでもオランダ政府は誤りを認めず、長期にわたって問題が放置され、犠牲者を拡大する
