Google、ディープニューラルネットワーク採用児童ポルノ画像検出APIを公開

米Googleは9月3日（現地時間）、インターネット上の児童性的虐待コンテンツ（CSAM；Child Sexual Abuse Material ）検出ツールを発表した。「Content Safety API」の1ツールとして、市民団体やNGO、他のテクノロジー企業など、対策に取り組む団体に無料で提供する。 同社は英国のオンライン監視団体Internet Watch Foundation（IWF）や2006年立ち上げの「Technology Coalition」に参加しており、インターネットを使った子どもの虐待や児童ポルノの取引を防ぐ技術の開発・導入に取り組んできた。 IWFなどの団体は、CSAM対策として、ユーザーからの報告やレビュワーによるレビューで問題のあるコンテンツを検出・削除しており、近年ではAIによる画像認識技術も採用している。 新ツールは、画像処理用ディープニューラルネットワ

[kenzy_n]

検索担当者には大きなストレスが掛かっていたと聞いたことがある。

[daybeforeyesterday]

うーむ

[igni3]

Googleが学習用データをどう用意したのかが大変気になる

[YarmUI]

中間層可視化したら捕まりそう

[H_Yamaguchi]

学習用データとして、児童ポルノ画像をサーバ内に保持していた場合、違法とならないだろうか、など。

[sotokichi]

“従来のCSAM検出方法は既に検出されたCSAMのハッシュとのマッチングに依存していたが、新ツールはCSAMとして認識されていないコンテンツをターゲットにすることで、犯罪者に追いつけるとGoogleは説明する”

[mongrelP]

誤判定訂正めんどくさそう（ぁ