もし性的な“フェイク画像”をＡＩで生成されてしまったら…【相談先も掲載】 - クローズアップ現代 取材ノート - NHK みんなでプラス

「軽いパニックになりました」 15歳の女子高校生が語ったのは、まったく思いがけない被害。 ある日突然、SNS上で自分の裸の画像が送りつけられてきたというのです。 撮った覚えも、撮られた覚えもないのに…。 SNSにあげた画像や動画が勝手に加工される被害がいま急速に広がっています。 子どもたちや若者に迫る、“性的ディープフェイク”の実態とは？ もし被害にあったら、どこに相談したらいいのか記事の最後に窓口についての情報もまとめました。 （クローズアップ現代取材班）

[todomadrid]

本人無許可のフェイク画像・動画作って拡散した場合、本人からの訴えで罪や賠償請求に問える状況にする以外にないと思う。でも、それで抑止はできても、バカを止める方法はない。せめて重い賠償を背負わせるしかない

[hatebu_ai]

こんな記事載せるんだったら犯罪被害者の個人情報と高解像度の顔写真ををネットばらまくのをやめたら・・・地上波で報道するのとネットにデータを放流するのは大きな違い https://www3.nhk.or.jp/news/html/20241217/k10014669931000.html

[dodecamin]

SNSで上げた奴は片っ端から児童ポルノ規制法でしょっ引け。

[takeda25]

アイコラと違うのは質と手間だよね。今後動画も作りやすくなると思うし。

[good2nd]

規制しかない。厳しい罰則でもつけないとプラットフォーマーは全然真剣になんて動かないんだから、法で縛るよりほか方法はないと思う。

[gewaa]

↓出た出た「AI関係ない」論。自動車の発明で交通事故が増えても「馬車でも交通事故はあったから自動車は関係ない」って言うのかね？　メリットはAIの恩恵と喜ぶくせに、デメリットだけAI関係ないは通らないだろ。

[www6]

プラットフォーマーの責任を問うことができるように流れを変えていかないとどうしようもないのでは？「プラットフォームは包丁」論、場所を提供してるだけ論はシリコンバレーバブルの最大の過ちだったとして

[timetrain]

twitterで「卒アル」検索したら、知らなかった世界が広がっていた。怖いわこれ

[mohno]

#nhk #クロ現 番組では「日本だけ規制がない」という話もしてたね。

[bluecag]

知人がSNSで「被害に遭ったら訴えればいいじゃん、AIの邪魔をするな」と言っててドン引きした。訴える金と手間と時間、そして被害を受ける苦痛の事を軽く見過ぎている。

[hide_nico]

「友達と普通に撮った写真を“拾い画”とかに合成させて（ネットに）あがっちゃうとか。多いのはヌード系。同級生、先輩とかがおもしろがってやっている」 「いかがわしい動画に、顔だけそいつにするとか」

[hrbmsz]

岸田文雄がもうディープフェイクの被害にあってるのにhttps://w.wiki/8L4z

[sanam]

自民の議員（年齢性別問わず）のフェイクポルノ動画でネットが飽和状態になったら可及的速やかに対策されるんじゃないかな。

[paradisemaker]

メルカリは権利の証明のしようがないディープフェイクでも権利者しかクレーム受け付けないそうなので、すぐに訴えるしかない https://www3.nhk.or.jp/news/html/20241214/k10014665821000.html

[tg30yen]

>子どもが加害者になっている可能性も

[lunaticasylum]

昔からあったものが作りやすくなった、という印象

[wildhog]

おっさんなんだけど女体に自分の顔付けて拡散テロしてみたいかもしれない。訴訟されそうだけど

[straychef]

体が他人あるいは生成されたハンコ画像なら自分の体とは違うので本物じゃないもんねざんねーんってことじゃない　むしろ自分に需要があったことを認識するのでは

[Gka]

　AIの生成は写真ではなく絵であるというのが論点では…精工すぎて絵に見えないけどな。日本の場合はロリ絵(18歳)は合法扱いだが海外ではNGなのでカード会社が決済停止にしている。まぁ名誉棄損にしかならないかと。

[mahinatan]

加害者をしょっぴくより作るスピードの方が圧倒的に早くなっちゃったから、被害と罰が釣り合ってないよね…現行法では対応できても対処しきれてない。規制しかない。

[tikuwa_ore]

性的なコラ画像はパソコンが一般的ではない時代からあるもので、生成AI云々はコラ画像の質が上がっただけで、生成AIそのものの功罪とは切り分けて考えるべき。昔からあるのに専用の対策が存在しない不備。

[iphone]

"バカを止める方法はない" そうだろうか。そんな悲しい存在をなるべく作り出さない社会は目指しうるんじゃないか。

[shinkuhadouken]

大人がやられても訴訟等、現法による解決は難しいのに、世界中で子供がやられている状況を「いまのままでいい」と判断する人はやはりおかしい。

[KAN3]

一度生まれた技術は規制しようとしても消すことはできない。AI生成なんてローカルでもできるんだから対策は不可能。生成したものを公開するのは現行法でも違法なので追加の規制は不要。

[flont]

今の法でも対処できるのに訴えないのなら、新しい規制をしても訴えないので意味がない。できることは厳罰化ぐらいか

[cocoamas]

アイコラやフェイクポルノなんて昔から問題なのに何でさっさと規制しないかな。被害が出てから訴えても遅いよ。

[daishi_n]

元写真読み込んで自動生成でアイコラ生成すら難しくない時代に合わせて規制は必要なんだけど、私的に作ったものが情報漏洩するととんでもない被害になるからね。想定される問題と影響が増えすぎる

[hecaton55]

手軽さが段違いに変わったのが大きいんだろう。技術が進歩することによって人間の中のバカな部分がさらけ出されているように思える。それもまた人間ではあるけれどあからさまに迷惑かけるなって

[raebchen]

クロ現が特に問題として挙げてるのは、日本だけ法的規制がないことと、加害者に10代が圧倒的に多いことだ😨 性的な関心高まる思春期に、簡単に加工できるAI使って加害意識薄いままやってる😨 日本の未来揺るがすぞ😨

[FreeCatWork]

このテーマについて考えさせられました。

[grdgs]

性加害欲とそれに関連した承認欲求に歯止めがない・小さい男は多い。さまざまな利便が制限されるのはモラルレスの屑のせい。

[rag_en]

「性的」とか「AI」とかは関係ない。画像生成は明確にOK、不特定多数に閲覧可能な状態での公開はNG、友達同士でｷｬｯｷｬしてるぶんには微妙…て辺りが妥当では。/メディアさん、容疑者らに許可とって顔晒してんの？

[hotelsekininsya]

規制派が多いようだけど、このまま行くとAIを使った自動規制の方向へ進み、究極的には人類はやはりAIに支配されるだろう。

[dacuumy]

個人的に好きな東南アジアの男性歌手の顔を使った、オナニーしてるとこのAI生成動画がXに上がってるのを最近見て、これはやばい世界になってきてるなと実感した。

[preciar]

AIなんて使うまでもなくフォトショで散々やられてたことだし、普通に罪に問える事案なので何を今更／SDXLのLORA作成はRTXの3000番台後半で60時間とかかかる。まだまだ蔓延するほど手軽ではない

[lady_joker]

いいね欲しさに子供の画像をネットに上げている人、ディープフェイクを作られて児ポ愛好家のコミュニティで永遠に食い物にされ続けるリスクとか考えた上でやっているのかねと思う

[fantascape]

SNSも生成AIも当初は技術的な新しさにワクワクしてたものだが、結局こんなことにしか使われないとか悲しくなるな。

[misshiki]

この手の問題がついに日本でも起こっているようです。これまでは海外で大きな問題となっていましたが...。

[mockmock9876]

整形顔はみんな似た印象だからたくさんの人が該当しそうな話だな。