ＡＩ生成の児童性的画像、サイト運営者「削除するつもりない」…専門家から対策求める声

【読売新聞】 国内のサイトで、画像生成ＡＩで作られたとみられる児童の性的画像が大量に出回っている。欧米では警戒が強まっているが、日本では議論が進んでいない。「児童ポルノ」を巡っては、日本が「輸出国」になっているとして過去に国際的な批

[JohnnyJosui]

削除するつもりはないと強がったが、本日12日からカードでの決済機能停止（クレジット会社からアウト判定を受けた）されたので対処する模様

[mahinatan]

実在児童を元に生成してるのに非実在だからセーフと主張すると悪質なアイコラとかもセーフになってしまうので危うい。生成AIが人権ロンダリングツールになってしまう。

[mori99]

ニュージーランドでの話だが、同級生女子のポルノ画像をAIで生成してばらまいた高校生が逮捕された。この事件と、この問題まではグラデーションでつながると思うが

[keshimini]

議論は進められるべきだと思うが、「止めたきゃ法律持ってこい」は圧倒的に正しい意見だろう。自由とはこういうことだ。//クレカ停止に負けるのは自由市場の問題なのでしゃーない、

[paku7651]

一体なんの「専門家」なのか。被害者の居ないものを規制しても、リアルでこどもが救われるわけではない。「助長させる」との声の証拠は弱く、世の創作から何らかの影響は受けているが～に見えるだけでNGは過剰。

[seachel]

好きなら好きで内心の自由があるので、自分一人でローカルで楽しめばいい。それをネット上に公開したり、金儲けしたりするなと。

[mr_mayama]

過去に被害に遭った人の実名をt2iすると近い顔が出るAIがある場合それは被害者はいないと言えるのか。本当に生成AIを触ってる人なら「自重しないと感情論先行で規制され自由がなくなる」ことはわかるはず。

[aionarap]

学習元がクリーンであることの証明は必要な気がする。違法画像をAI噛まして合法化すると考えると一種のロンダリングになりかねない。

[kohgethu]

二次創作絵もそうだけど、更にAIは「歴然とした現実のモデル」のデータを基に絵を制作している。歴然とした現実の児童モデルは被害者じゃないの？とたびたび自分は疑問に思っている。

[hinonono]

「輸出」の問題なら各国で基準が大きく違うんだし、輸入国の側で対処すべきでは？人種の差で日本人の成人が未成年に見えるとか、日本側じゃどうにもならんぞ

[steel_eel]

とりあえずこれはアウトだろうラインは「顔から個人が特定できる」だと思うが、児童に限らずAI生成の人間画像で本人特定可能なものが出力される（i2iとかで近づけるのは除く）確率ってどれくらいあるんだろうな。

[deep_one]

サイバー犯罪条約ではAI生成でも摘発対象となっているのだが。たしかリアル系の奴だけ。

[maguwatta]

実にファンタスティックな話ですね／AI生成による着エロじみたものはつべでも見かけるけど、流石に児童にしか見えないものは件のサイトでしか見た事ない…

[daybeforeyesterday]

うーむ

[kendokashin]

とりあえず法規制には「どう児童（18歳未満）と判断するか」「保護法益を（性犯罪等の）助長論に置くのかそれとも実在人物の権利保護に置くのか」を解決する必要がある。可能なのは学習元データの規制ぐらいだろう。

[call_me_nots]

“「法律で禁止されていないのなら、削除するつもりはない」。ＡＩによるとみられる児童の性的画像が多数投稿されているサイトを運営する大阪府吹田市のＩＴ企業の男性社長（４５）は１０月、取材に淡々と話した”

[mini3mini3]

こういう人がいる時点で規制は必要では→”実在児童を集中学習させただろうAI画像はよくみかけますね、 愛好家なのであーこれはあの子追加学習させてるなというのはすぐ分かります。 かくいう私も”https://archive.md/K1aBF

[zzrx]

生成AIのエロ画像売れません。以前は多少売れたようですが、どんどん売れなくなってきているので、そのサイトの寿命もあとわずかでしょう。売れるのはエロいAI画像の生成方法をレクチャーしたPDFです。歴史は繰り返す

[tanority]

児童ポルノはいい感じの落とし所を作るのがむずいよな

[iiko_1115]

支部でそれっぽいの見たことあるけどAI顔すぎて…そうじゃないやつはよく分からない

[kkkirikkk]

リアルだからダメってこと？じゃあ最新の技術で作られた戦争シーンや殺人シーンが映画やドラマにたくさんあるのはなんで止められないの？

[chantaclaus]

日本の法律がセーフならセーフであるべきなんだろうけどこのノリで行くと早々に法規制されそう。

[hom_functor]

児童ポルノが規制されるのは表現の自由を制限してでも児童の人権を優先すべきだから、一方私のお気持ちジャッジでキモい罪というのは現憲法下でやることではないので、被害者がいるかどうかという基準が大事

[TakamoriTarou]

例の増田で話題になったやつか

[bacon_epix]

わりと実在する人物に寄せつつ、たまたま似ちゃったんです～っていうことは可能よな。なんなら自分の好みにどんどん寄せてくとか。だから、どうやって対策していくんだろうか。

[agricola]

こういうのってほうりつできせいされていないのだからひょうげんのじゆうですよね。普段の主張を放り投げて「ペドフィリアで性犯罪者予備軍」と見られたくないムーヴしてるからオタクの主張はペラいんだよ

[good2nd]

実在してなきゃ何でもアリ、というこれまでの基準がそのままでいいのか？っていう段階に来たということだと思う。考え直す必要あると感じてる人は少なくないんじゃないかな。徐々に言語化されていくと思う。

[fai_fx]

児童ポルノ犯罪が起きた時に、このサイトから容疑者をリストアップできるなら、逆に有益のようにも思う。サイトを潰して、犯人を捕まえにくくした方が良い？ディストピア感。

[clapon]

実在・非実在を問わず児童を性的な目で見ることが「普通」だと思う社会がまともとは思えないけど…

[diveintounlimit]

儲かるんやろなぁ。日本はこの辺ずっと法整備出遅れてる印象がある。

[quwachy]

熊は殺していいが人間に見える絵は実在しなくても保護しなければならない、発想が完全に基地内なんよ

[takeishi]

専門家って誰よ／あとFANZAとか大手じゃなくてなぜ大阪の会社。イラスト調では無い写真ぽいAI画像に絞りたかったのか？

[hsxgt]

二次元と三次元で決定的に違うのは被害者の子供がいるかいないかなんだが、この画像の学習データはどこから・・・成人のデータから生成してるならすごいんだが

[harumomo2006]

ただのイラストだからね

[TakayukiN627]

生成AIが作成したとしても児童ポルノであることには変わりないので、現行法のままでも規制できそう

[mohno]

「規制されるまではやめない」←こういう姿勢が“規制の必要性”を生み出し、色々巻き添えにした規制につながるという平常運転。「いつまでも続けられると思わないが」

[hinikuhikiniku]

こういうの好きな人は今のうちにダウンロードしといたほうがいいんじゃない？知らんけど

[hecaton55]

「規制されるまではやめない」ってのが何も対策せずにこのままやるという意味だと焼畑で後は何も残らないみたいになりそう。今儲けてるAIユーザーたちも同じに見られそうだなぁ

[kagerou_ts]

え、完全な創作物なら何も問題ないんでは？　誰が被害者？

[ET777]

クレカがよく許すなぁと思ったらやっぱ駄目なのか。海外ユーザーはどういう決済手段があるのだろうね／ゆくゆくは特定の子に似たものをってなると思う。アングラで残るかもしれんがアングラで抑えるべきとも