女児虐待の疑い、AIの「保護率39%」評価参考に児相が保護見送り（朝日新聞デジタル） - Yahoo!ニュース

4歳の娘への傷害致死容疑で母親が三重県警に逮捕された事件をめぐり、県は10日、虐待に関する過去のデータを職員の判断に生かすAI（人工知能）の評価などを参考に、一時保護を見送っていたと明らかにした。「保護率39%」だったといい、在宅での定期見守りを決めたという。 【写真】「#泊めて」頼れたのはSNSだけ 18歳を超えた私、救ったDM 県議会の全員協議会で説明した。児童相談所は昨年2月、女児にあざが見つかったとの連絡を受け、母親らと面会。あざが虐待によるものと断定できない▽母親が児相の指導や支援に応じる姿勢をみせたなどのほか、AIで評価した際、「保護率39%」だったこともあり、一時保護せずに定期的な見守りとすることを決めたという。 児相はその後、女児が保育園を長期欠席しているとの情報も得ていたが、面会などの対応はしていなかった。 AIシステムは虐待や虐待を疑われる過去事例を職員の判断に生かすも

[ysync]

AIのやからしに対して人が腹を切る世界を想定していたが、人が責任をAIに投げる世界だったのか。

[kazatsuyu]

仮にAIが正しいとしても「保護率39％」を「保護しない」に倒したら5人に2人が見捨てられる計算にならない？

[nWY2RhxQPXKQloX3z]

AIと言ってもリスク評価基準に沿って手で計算して何点以上ならハイリスク、というのと本質的に同じ。

[dekaino]

このAI、保護しない根拠を示して保護件数を減らすためのツールとして導入された気がする

[ROYGB]

これは他の事例も含めて検討数や保護数がどのくらいなのかも知りたいところ。

[kurotsuraherasagi]

（保護率って何？ググっても生活保護の用語しか出てこない…保護の必要がある確率だったら39%ってかなり高く感じるけど…）

[tanukipompoko]

児童保護の是非の判断をAIに任せるという考えがそもそも間違っている。AIは現状対人的な能力に不足があるし、それが個別的な判断と緊急性を要するものなら一層力不足だろう。軽率なAI万能論など害悪でしかない

[s2kw]

学習データ側で拾えなかったケースは積極的に見捨てられるのでは？教師側のカバー率が低いんじゃないの？

[strow0343]

AIのような責任を取らない(取れない)存在に対しては判断した人間が責任を負う

[semimaru]

AIのせいにし始めた。AI採用した組織のせい。

[tacticsogresuki]

そもそも打ち込むデータに問題があったのでは？例えば電話で相談、通報があった際にその声主の抑揚などから心理状態を把握、緊迫性などを判断するまでAIが至っていれば話は別だが。

[ENUmori0183]

AIに限らず地震予知とかでも半端な確率の取り扱いは難しいよ。半年以内の巨大地震の発生確率が39％だとしてそんなに長期間休業にはできないが、地震が起きれば安全配慮義務違反に問われかねない。

[xorzx]

”児相はその後、女児が保育園を長期欠席しているとの情報も得ていたが、面会などの対応はしていなかった。”　最初の保護見送りじゃなくて、長期欠席してるのに面会対応しない、この判断が異常だったのでは？

[Panthera_uncia]

1％でも結果が悪ければ世間が騒ぐからAI使う意味ないんじゃね

[sukoyakacha]

単に点数の問題だと思うが、もっとカジュアルに保護できるように、児相の誘拐！みたいな声を黙殺してやっていくべきなのか。なったらなったで、朝日はそっち側に付くだろうが・・・

[quwachy]

人間が判断したんなら児相の担当者は死刑でいいけど、AIが判断するようになったら誰が責任取るの。

[nowww]

今日は39％の確率で交通事故にあいます、これを食べたら39％の確率で食中毒になります、という状況なら実質100％として判断するでしょ？

[eringiman]

何故しなかったのか、その基準が何なのかは明らかにして問題があれば修正が必要かもしれないけど、その判断自体は批判されるようなものではないと思う。

[shodai]

“データをもとに一時保護の必要性を示すというが、” 何で低くなったのかを分析して改善して欲しい

[preciar]

前例的に4割は保護する件を全部保護にする運用だと、同様ケースへに必要な労力が2.5倍になるんですが、批判者は解ってます？予算も労力も足りない児相でAI使って省力化試みるのは当然でしょ？／金も人もねえんだよ

[prozorec]

「保護率39%」の意味を深掘りする必要がある。これがどういう事を意味しているのか良く分からない

[a2c-ceres]

保護率39%ってなんやねん。判定の結果「同レベルの判定を下された事例の4割が保護対象だった」と言う割合の話なら明白な誤判定要素が無い限り要保護対象にすべきだろう▼%て付いてるけど実はスコアだったりしないか?

[cartman0]

教師ありでデータ増やしていけばどうとでもなりそうな気もする

[triggerhappysundaymorning]

”「あくまで参考値で、判断は人間がしている」”って言ってる以上は「AIが39%って言ってるから」みたいな本記事の主張はミスリード誘ってるのでは？/そもそも「保護率39%」の意味も分からんな。保護すべき率って意味？

[y_as]

AIの役割の一つは罪悪感のアウトソーシング。

[iwiwtwy]

降水確率40%なら（折畳）傘を持つよね

[Delete_All]

こんな仕事のやり方なら児相のスタッフは全員ロボットでよいのでは？