卒業アルバムを悪用し子供の性的画像を拡散 生成AIで作成か SNS上に被害者252人

卒業アルバムなどに載っている児童生徒の写真を悪用し、性的に加工した画像や動画の252人分が2～6月、交流サイト（SNS）上に投稿されていることが5日、民間団体の調査で分かった。生成AI技術を使った「性的ディープフェイク」も含まれるとみられ、団体は「氷山の一角」としている。 性的ディープフェイクは実在する人物の顔写真を使い、体部分をAIで作成した偽の性的画像や動画。アプリなどで簡単に作成でき、国内外で被害が増えている。 調査は、インターネット上で盗撮画像などをパトロールしている団体「ひいらぎネット」が実施。把握できた252人分のうち、内容などから中高生と推測されたのは200人、小学生が20人だった。 画像と一緒に子供の名前が投稿されているケースもあり、同団体は在籍している可能性がある学校を調べ教育委員会や学校側に通報。学校や保護者からの連絡で、実在の人物だと確認した事例が複数あったという。

[rinxmoon]

こういうのは、個人的トラブルによる恨みとかそういうのが全く無い、ただの愉快犯、嫌がらせ的なものがいくらでもでてきそうだな。防ぎようがない。

[atsushieno]

ここから、個人情報を調べて、ある程度プロファイリングして、通報しなそうだと思ったら「画像をばら撒くぞ」って脅しをかけて強制わいせつに及ぶ、みたいな使い方をするわけか

[kirin8128]

死刑で。

[yosu64]

昔の卒業アルバムには卒業生の住所が載っていたが、プライバシーの観点から載せなくなった。いよいよ卒業アルバム自体、性的ディープフェイクの観点から作ることすら出来なくなるか…

[rgfx]

きっつ。非実在の概念をAIを駆使してのりこえるな「画像と一緒に子供の名前が投稿されているケース→在籍可能性がある学校を調べ通報。学校や保護者からの連絡で、実在の人物だと確認した事例が複数あった」