津市で痛ましい事件が発生した。2023年7月、4歳の女児を虐待し死なせたとして、母親が傷害致死の罪で起訴されたのだ。この事件は、人工知能(AI)が自治体による児童保護の意思決定に介入した点で大きく注目された。三重県はかねてAIシステムを児童相談所に導入した先進事例として知られていた。 2022年2月、女児が通う保育所から「顔にあざがある」と児童相談所に報告が寄せられたのが発端だった。児相の担当者は女児と面談し、顔のあざを確認した。ただ、それが虐待によるものとは断定できず、また女児の母親が協力的な姿勢を見せたことから、児相は一時保護の判断を見送った。 加えて、児相は過去の蓄積したデータからAIシステムが出力した「39%」という保護率の数値も参考にした。児相職員は日経クロステックの取材に対し「判断の主な要因は母親の対応だった」とした一方、児童保護に際し「AIシステムの評価も踏まえた」(児相職員