米アップル、児童性的虐待画像を検出へ アメリカ国内のiPhoneなどスキャン - BBCニュース

米アップルは5日、アメリカ国内のiPhoneユーザーが画像をクラウドサービス「iCloud」に保存する際に、児童性的虐待コンテンツ（CSAM）かどうかを特定するシステムを導入すると発表した。

[p8q]

"「画像がiCloud Photosに保存される前に、デバイス上で画像と既知のCSAMハッシュとの照合処理が行われる」"。このシステムは極めて精度が高く特定のアカウントについて誤った警告を出す確率は1年間で1兆分の1以下、と。

[brusky]

“CSAMと判断された場合には、人間が内容を確認した上で、ユーザーについて法執行機関に報告する”誤検知が多すぎて結構な人数のチェック人が必要になりそう。雇用の創出（地獄）

[nise_oshou]

土俵下に落ちた力士が絡んでる画像を「これ入ってるよね？」ってドヤ顔で表示制限するのが現在のAI画像判定の限界だと思うのだが、だいじょびなのかしら。

[Galaxy42]

日本ではサーバが火を噴きそう。

[niwatako]

“今後、正解と出るか間違いだったと出るか、それはほとんど問題ではない。これでダムが決壊する。それがポイントだ。今後は、各国政府があらゆる事業者に、この技術の導入を要求するはずだ”