子どものわいせつな自撮りをAIで検知する「コドマモ」登場 他のカメラアプリ使っても判別

藤田医科大学（愛知県豊明市）は、オーディオブックを手掛けるスマートブックス（東京都世田谷区）、愛知県警と連携して子どものわいせつな自撮り画像をAIで検知するスマートフォンアプリ「コドマモ」（iOS、Android）をリリースした。利用は無料。配信はスマートブックスが担当する。 親のスマホに「コドマモ」、子どものスマホに「コドマモ for Kids」をインストールすると、子どもがスマートフォンでわいせつな自撮りをした場合にAIが自動検知、子どもに画像の削除を促すとともに保護者のスマホに通知を送る。スマホの位置情報も共有するため、保護者は子どもの居場所をすぐにチェックできる。 別のカメラアプリを使った撮影にも対応した。例えば“盛れる”エフェクト機能を持つ他のカメラアプリで撮影してもコドマモ for Kidsがインストールしてあれば検知できるという。現在は画像のみだが、今後は動画への対応も予定し

[wapa]

このAIの学習には大量の子どものわいせつ画像を使用したのだろうか？

[theatrical]

裸かどうかや、性器や胸が露出されているか検出するくらいで良いので、子供の画像を学習データに使う必要性は無いと思われる。

[sisya]

これは子供が嫌がって消してしまいそう。削除を促すのは悪くない機能と思うのだが、親に通知というのが痛い。親から見れば当然欲しい機能なのだが、子供からするとスマホの使用そのものをやめそうな機能にも思える。

[daichirata]

昨今の問題を鑑みるとAIで対応するしか無いと思ってるのでありだと思った。要求された時に断る理由にも出来そう。

[moodyzfcd]

記事下部のプレスリリースより "期待される効果" として "子どもが加害者になることを防止" "学校配付の学習用端末にインストールすることで学校内の性的な自撮り盗撮盗撮を防ぐことができます"

[syakinta]

これ、どうやってテストしたのかが気になる

[shunkeen]

“AIが自動検知、子どもに画像の削除を促すとともに保護者のスマホに通知を送る”／子どもの自撮りを抑止する効果は高そう。自分が子どもだったら、いかに普通の画像でわいせつ判定させるかの悪ふざけをやる。