卒業アルバムの同級生を裸に 子どもも加害者？画像加工の実態 | NHK | WEB特集

「何これっ。気持ち悪い。軽いパニックみたいな」 15歳の少女のもとに送りつけられてきたのは、自分が裸になった画像。 SNSにアップした日常の何気ない動画を、誰かが勝手に裸に加工したとみられる“性的ディープフェイク“でした。 いま、AIを使ったこうした性的な画像がネット上に氾濫、拡散する事例が急激に増えています。 大人だけでなく、中学生や高校生など、子どもたちの間でも広がっている可能性が見えてきました。

[rocoroco3310]

AIを使うことで画像加工のど素人、それこそ子供でも簡単に加工でき、静止画だけじゃなく動画でも作成可能な上、SNSの台頭により、出どころ不明の画像や動画投稿の気軽さ、拡散力が段違いだからな

[jun_cham]

nudefusionみたいな雑に変換できるサービスがさらにこういう行為へのアクセスを容易にするよね…。とはいえ、やはり悪意は使った人間のほうにあって、包丁には悪意は無いのよね。

[shinkuhadouken]

生成AIによるディープフェイクポルノ被害はずっと前から規制すべきだったのに「アイコラが」とか言ってた連中は本当にバカだよな。そういうレベルではない。法規制すべき。

[neco22b]

アイコラと同じようなもんだろう。軽く検索したらアイコラの場合、著作権侵害や名誉棄損になるようなので、現行法でも処罰できそうだが？卒アルについては写真掲載はやめた方がいいな（昔は住所とかも載っていた気

[seiyakengo]

たぶん海外由来のエロディープフェイクとかの影響もあってか生成画像AIアプリは超規制が入り始めてる。ブラウザのはゆるゆるだけど

[straychef]

その昔だって紙の切り抜きだってあっただろうしデジタルだろうとAIだろうと大差ない　そんなもん悪用というかネットにアップしない限りなんでもない

[hide_nico]

“過去に性的な虐待を受けた被害者が掘り起こされてターゲットにされ、AIの加工技術によって、さらに繰り返し、繰り返し、虐待を受け続けるという凄絶な状況”

[p8q]

"投稿者B：小6から作っているので、4年くらいです 取材班：加工した相手に対して罪悪感はありませんでしたか？ 投稿者B：別に何もなかったですね（笑）そうじゃないと作る人はいないと思います"。

[hom_functor]

大昔にアイコラ規制でさんざん議論されていて今の法で取締れるんだが、人力でフェイクポルノ生産している犯罪者連中はどうしてもAIだけ規制強化しろって言うよね

[colonoe]

AI製でもAI製でなくても同じように対処すべき。分けて議論する必要なんてない

[mobile_neko]

20年前にこの技術があったら自分は絶対に使っていたし、ネットランナーあたりが「悪用厳禁」で特集するはず。拡散された場合の被害者のダメージが大きすぎる。

[ikihaji_kun]

https://x.com/yohsuken/status/1867150591627276373 この彼氏みたいなブコメがあるとは流石はてな

[lli]

政治家やその家族が大々的に被害にあうまで規制はされないだろな。

[daybeforeyesterday]

うーむ

[slkby]

大人の人間にも今の生成AIは早すぎるのだから子供なら尚更

[bfoj]

卒アルを無くそう。平成の常識、令和の非常識。

[pikopikopan]

被害者救済の仕組みを作って欲しい。こっそり楽しんでればいいものの、ほんとクソのせいで無駄に仕事が増える。

[xorzx]

被害者は児童に限らないので児童ポルノで有罪はちょっと違うのでは？

[yarukimedesu]

俺が中学生の頃にあったら、本人に送るなんてしなくても、シコりたおしてたんかな。本人写真のデジタル化などは、避けるべきやね。

[doksensei]

ディープフェイク画像被害 日本 未成年

[GENS]

アイコラ(海外では"Photoshop")って言い方で20年以上前から頭すげ替えはあったわけで、作成のハードルが下がった/クオリティが上がったにしろ、なんで今まで法規制の話題にならなかったんだろう

[Nean]

記事末尾に相談先へのリンク（複数）あり。

[cinefuk]

いじめに使うの陰湿すぎる「15歳の少女のもとに送りつけられてきたのは、自分が裸になった画像。 SNSにアップした日常の何気ない動画を、誰かが勝手に裸に加工したとみられる“性的ディープフェイク“」

[hkanemat]

嘆かわしい…情報技術がロクなことに使われない