米Googleは9月3日(現地時間)、インターネット上の児童性的虐待コンテンツ(CSAM;Child Sexual Abuse Material )検出ツールを発表した。「Content Safety API」の1ツールとして、市民団体やNGO、他のテクノロジー企業など、対策に取り組む団体に無料で提供する。 同社は英国のオンライン監視団体Internet Watch Foundation(IWF)や2006年立ち上げの「Technology Coalition」に参加しており、インターネットを使った子どもの虐待や児童ポルノの取引を防ぐ技術の開発・導入に取り組んできた。 IWFなどの団体は、CSAM対策として、ユーザーからの報告やレビュワーによるレビューで問題のあるコンテンツを検出・削除しており、近年ではAIによる画像認識技術も採用している。 新ツールは、画像処理用ディープニューラルネットワ