生成AIで作成のわいせつ画像 販売した疑い 4人逮捕 全国初摘発 | NHK

生成AIを使って作成したわいせつな画像をインターネットのオークションサイトで販売したとして、警視庁は20代から50代の4人を逮捕しました。作成されたのは実在しない成人女性の画像で、警視庁によりますと、生成AIで作成したわいせつ物の販売が摘発されるのは全国で初めてだということです。 逮捕されたのは、愛知県に住む小売業の水谷智浩容疑者（44）や、埼玉県に住む会社員の菅沼貴司容疑者（53）ら20代から50代の合わせて4人です。 警視庁によりますと、4人はそれぞれ去年10月、生成AIを使って作成した女性のわいせつな画像をポスターにして、インターネットのオークションサイトで複数回販売した疑いが持たれています。 無料で提供されている生成AIのソフトに、ネット上にある大量の画像を学習させたうえで、「脚を開く」などとポーズを指示することで、実在しない成人女性の裸に見える画像を作成していたとみられています。

[ho4416]

普通に昔からある「わいせつ物頒布等の罪」じゃないの。AIかどうかは関係ないが「わいせつ」の定義はいつもてきとう。

[colonoe]

無修正を理由に逮捕したのなら、生成AIを強調した記事は誤解を招く記事なのでは。ファクトチェックしたらアウトだよ

[donovantree]

個人で楽しむためのポスターであり描きたい人が描き見たい人が見る。公共の場に提示したわけでもない。実在の人物でもない。これこそがガチの権力による表現規制である。山田議員は国会で取り上げるべきではないか。

[ET777]

本件は無修正だったようですが）モザイクがあれば良いわけではなく警察が猥褻と判断したら猥褻なのが今の運用と聞いています>ブコメ

[ykhmfst2012]

非実在実写風ポスター販売で逮捕。"学習データ"と称する実在人物の身体がほぼそのまま使われてて権利者から訴えられたのかと思いきや、175条案件とのこと（by産経）。うーんしょうもない。

[nowww]

手書きでも、写真でも、わいせつ物の販売は罪だからな。刑法の「わいせつ物頒布等の罪」は販売しなくても、公開した時点で罪になるから注意。

[nika1vf]

見出しの「生成AI」は一昔前なら「3DCG」だったしその前はゲームやマンガに同人だったわけで。175条の撤廃をオタクの名の下に掲げる人でもAIの文字列見るとその主張が頭から消え去るんだ、ふーん。みたいなとこある。

[steel_eel]

警察が拡大解釈して「生成AIで性器を出力できるから生成AIは事実上の性器データである」とか言って生成AIの学習データ配布とかしているだけで逮捕してくる可能性は怖いな。そういうことやるでしょ。

[good2nd]

絵やCGや写真と違って技術もモデルも不要という点が新しいかな／「4人はそれぞれ」て特に関係なくバラバラにやってたのか／「1年間で1000万円ほどの売り上げが」そんなに儲かるの驚き

[spark7]

特にAIの意味はなさそう。雑な犯罪だな。/ NHKももう少しつっこんだ取材しろ。『出品の際は下半身にモザイクをかけ、落札者には無修正のポスターを発送』 https://www.yomiuri.co.jp/national/20250415-OYT1T50070/

[hanyan0401]

東京新聞の記事だと、サンプル画像には性器修正を施していたみたいですね。刑法175条は即廃止で良い悪法ですし、本件も見せしめ的な摘発だとは思うのですが、記事が事実なら、脇が甘かったのは否めません。

[tanahata]

実在マンコの写真がネットに溢れる中、非実在マンコ画像にモザイクをかけさせる意味が分からん。誰の何の権利を侵害しているのか。

[kz78]

ニュース映像が「わいせつ図画頒布容疑」なので、まあ普通に無修正で売ってたんだろう。

[kesyomota]

生成AI使用とオークション商法に賛否あると踏んで、圧を掛ける好機とわいせつ物摘発なのか。 あるいはディープフェイク疑いの摘発スムーズ化の為にわいせつ物で別件逮捕なのか / 両方良くないと思うけど論点は変わる

[shields-pikes]

そろそろ生成AIで逮捕の事例を作りたいけど、ディープフェイクとかは良くわからないから、昔ながらの猥褻物公布等罪で見せしめ逮捕つつ、マスコミには「初の生成AI事件」とリークしてるんだろうね。マジくだらない。

[blueboy]

わいせつ画像そのものが悪いというより、違法行為をする反社が不当利得を得るのが悪い。解決策は ① 販売公認。許可制 ② 高率課税 ③ ゾーニング ／ 以上に違反したら、摘発する。わいせつだけでは、摘発されない。

[estragon]

捕まったのは性器を描画したから？別件逮捕？なんか公権力が介入しちゃダメな話のような / “「脚を開く」などとポーズを指示することで、実在しない成人女性の裸に見える画像を作成していたとみられています”

[beed]

これでタイトルにAIって書くなってやつは「警官のフリして詐欺摘発」って書いてあったら詐欺で摘発されただけで警官のフリは関係ないとか言うのか？

[chuukai]

AIが生成する画像こわい、人が紙に描く無修正エロ同人誌を通販で買うのが安心だな

[ikihaji_kun]

生成AIによる被害や悪用は「合法」を盾にして正当化するくせに、ここでは法に対して「お気持ち」を垂れ流す二枚舌のAIbrosはてなーは一切信用ならない

[otihateten3510]

売り手「へいAI、モザイクつけて」　買い手「へいAI、モザイク外して」

[tyhe]

メルカリでも露骨な版権ものを生成して販売してるのを見かけたので世の中にはモラルがない人間が多いのだなあ。となった。

[peppers_white]

生成AIじゃなかったらまあってなるけどこれは多分マネロンだよねやってること、こいつらの背後に闇バイトがないか探るべきように思う

[akatibarati]

「何が猥褻かは捜査機関が決める」これが２１世紀でもまかり通っているわー国

[bellonieta]

猥褻な絵を生成できるプロンプトの販売だったら問題ないのかね？

[watatane]

ふと思ったのだけど生成AIの無修正画像にジグソーパズルを販売しても罪に問われるんだろうか？当然パッケージとかに無修正画像を使わないとして。

[onesplat]

買う奴なんなん？

[syouhi]

"生成AIを使って作成した女性のわいせつな画像をポスターにして、インターネットのオークションサイトで複数回販売"、"「AI美女」などとうたって1枚数千円で販売され、水谷容疑者はおよそ1年間で1000万円余りを売り上げ"

[ms05b]

てか、よくそんなもん売れたな・・・　ネットにいくらでも転がってそうだけど

[kyopeco]

なんの罪なのか気になる。実在する人物がダメだったのから、わいせつ物自体がダメなのか、著作的(コスプレなど)でアウトだったのか。続報を待ちたい。

[okadango]

刑法175条は違憲。生成AIによるディープフェイク問題は全くの別問題。

[lessninn]

生成自体が犯罪じゃないのなら、エロコンテンツを生成できるプロンプトだけ売って「皆様あちらのテキストボックスに入力されていかれますねー」とされるだけだと思う。AIエロ３点方式だぜ！

[arvante]

完全に興味本位の質問なのだが、エイ(メス)の生殖器から生成した画像てわいせつ物になるのかな？　モザイクについてはさすがにもうええでしょう。海外の画像をいくらでも閲覧できる実態からかけ離れること甚だしい。

[kawabata100]

購入者は自家消費用として自分で生成すれば安くすんだのでは？

[Reinassance]

“警視庁によりますと、生成AIで作成したわいせつ物の販売が摘発されるのは全国で初めてだということです。”ディープフェイクと絡めてるあたり著名人の裸体を生成したのでは。そうであれば1000万売れも納得する。

[amematarou]

警察は恣意的に逮捕するだけ。裁判官がわいせつと感じたら猥褻罪が確定します。警察という組織より裁判官個人の趣味の世界というのが日本のやり方です。

[harumomo2006]

モザイクの有無ももうあまり意味をなさないので法律を廃止していいのでは

[Knight13]

無修正だったからダメだったのか

[hiroomi]

AI案件だろうが、わいせつ画像ならそうなるよと。こんな感じの延長上なのかね。ヤフオクやメルカリで「美人 ポスター」当たりの感じなのかね。

[ext3]

AIなんだから猥褻に当たらないと思ったとか言い訳すりゃ面白いのに