違法な児童ポルノじゃないの？ ネットに溢れる生成AI「子どもの裸画像」の法的問題 - 弁護士ドットコムニュース

[fukken]

"生成AIの場合、実在する児童の裸の画像が、部位ごとに分解されたり、加工されたりして用いられると思われますが" はい論外。StableDiffusionは20億枚で4GB。画像1枚あたりのデータ量は1px分にも満たない。

[sisya]

逆にAIによって非実在児童を性的消費する道が開け、現実の被害者が減る流れまであるのに、ただただ臭い物に蓋をして飢餓状態に陥らせて現実の児童へのリスクを高めようとする真エネのような人達をなんとかしてほしい

[keshimini]

AI児ポ自体に罪はないけど、特定の人物の素材を使い故意に特定人物に似た画像生成することにはなんらかの法規制を作る必要がありそう。絵師の絵柄問題と同じだと思っている。

[ho4416]

「生成AIの場合、実在する児童の裸の画像が、部位ごとに分解されたり、加工されたりして用いられると思われますが」←ダメだ、AI全然理解してないこの人。

[moonieguy]

そんでそのLoRAはどうやって作ったんですか?って点を徹底的に無視してんのが楽しい

[puhu208n]

StableDiffusionの元になったDALL-E2のデータ量が1枚あたり数バイト程度なのだが、これが確か人間の記憶精度の試算の一つと一致しているので、「データ量がわずかだから原理的に不可能」系の擁護は通じないと思う

[kori3110]

本題と別だが、いじめで本物と見まごうエロコラ画像を生成するのが横行しそう。ちゃんとそのへんのリテラシー周知しないと逮捕者出るかも

[hardt]

PIXIVはハリウッドセレブのAI生成ポルノをやめさせろ。さっさと訴えられろ

[hide_nico]

“実在児童の裸を学習させて生成した場合には、児童ポルノになる可能性はあります”

[kamezo]

被害性の有無に着眼した理論構築だと限界がある？／「CG児童ポルノ事件」の弁護人だ経験から取材したのだろうけど、なんだか生成AIについては詳しくなさそう。この弁護士さんと生成AIの専門家とで議論してみてほしい。

[terazzo]

生成行為はともかく実在児童の裸を学習させる時点で法には触れているのでは

[deep_one]

実はサイバー犯罪条約の方では実写に見えるなら非実在でも児童ポルノになるのである。たぶん、検挙を簡単にするためだ。日本はその条項を留保しているらしい。

[quwachy]

顔は実在の人物で体はデータがないので創作の場合でも児ポにならないんだ。著名人の場合は別な法律で引っかかりそうだけど、一般人だと泣き寝入りか

[knok]

実在の人物に酷似した映像が出せたら、それはディープフェイクと同様に問題にすべきだと思うな

[atoh]

「生成AIの場合、実在する児童の裸の画像が、部位ごとに分解されたり、加工されたりして用いられると思われます」児童ポルノ問題の弁護士だから知らないのは構わない。これを鵜呑みして記事にする方がぼんくら。

[strawberryhunter]

この理屈だと精巧に作った3Dモデルは単純所持罪に問われない可能性が高い。それを学習データにすれば被害者がいない児童ポルノっぽい実写のような画像が生成できるが、堂々と公開される世の中にはなってほしくない。

[NOV1975]

頒布したらNGで済ませられないのは単純所持違法とかいうアホな話を通してしまったからよね…

[watagashi_yo]

“ただ、生成AIの場合、実在する児童の裸の画像が、部位ごとに分解されたり、加工されたりして用いられると思われますが”　？？？

[otihateten3510]

今一番詳しい解説だね。

[ROYGB]

記事でも紹介されてるけど、人間が作成した画像での有罪例もあるので、ＡＩが作成しても有罪の可能性はある。

[gwmp0000]

現在は合法 仕方無いが 本物の人間にしか見えないから怖い 子持ちの親は嫌だろうな

[ys0000]

可能性で話をしたらなんでもそうで。だからエビデンスに基づいて話して。AI生成で被害者が出るのは肖像権周りだろう。児童かどうかは余り関係ない。

[twmw]

漫画はOKなんだから、イラスト化フィルターを噛ませればいいのではないか❓あとは、耳を尖らせて200歳のエルフ族と言い張るか

[mori99]

現実に合わせて法律の方が変わることになるだろうが、どのように変わるかなあ

[straychef]

もうAIで無限生成できますよね

[ghostbass]

清岡氏の写真集にフィルターかけだけのやつってこの話のやつだっけ