画像生成AIの訓練に「児童ポルノ」が使用されていたことが発覚 | Forbes JAPAN 公式サイト（フォーブス ジャパン）

テキストから画像を生成する人工知能（AI）ツールの「Stable Diffusion」が、膨大な量の違法な児童の性的虐待画像を使って訓練されていたことがスタンフォード・インターネット・オブザーバトリー（Stanford Internet Observatory）の調査で明らかになった。Stable Diffusionは、評価額が10億ドル（約1430億円）のスタートアップStability AIが開発した最も人気が高い画像生成AIツールの1つとして知られている。 Stable DiffusionのAIモデルは、膨大な量のオープンデータセットで訓練されており、ユーザーがテキストでプロンプトを入力すると、リアルな画像が生成される。しかし、スタンフォード大学の研究者たちは、Stable Diffusionをはじめとするモデルが学習に用いている数十億の画像からなる大規模な公開データセット「LAIO

[osugi3y]

こんなことはだいぶ前から言われていたがフォーブスという大手メディアが気づいたことが重要なのでシェア。

[itochan]

日本人の描いた「（非実在児童の）絵」は、海外で違法なこともあるらしいし、記事を日本語に翻訳する際に、日本人の考える「違法」の範囲なのか、そうでない範囲なのか、切り分けて欲しい。

[otihateten3510]

著作権違反画像だって大量にあるだろ、どこで線引きするの？日本だとモザイクなし全裸だめだよ？

[nishik-t]

児童ポルノを一度でも目にしたことある絵描きはその記憶を消さない限り使ってはいけないとかならない？

[fai_fx]

"大規模な公開データセット「LAION-5B」に、児童の性的虐待の画像が数多く含まれていることを発見"...この種のデータセットからは除去されていると思ってた。

[hinonono]

対処すべきは根本、インターネットからの除去だが、規模的に撲滅は困難。AIも同様で努力は求めていいが、義務化しても無理は無理。特定の犠牲者の再現と言えない薄い影響程度まで禁じては、Web検索等まで不可能になる