児童ポルノ禁止法に抵触するデータセット - ai-illust @ ウィキ | 生成AI（generativeAI）による使用例、諸問題のまとめ

Stable Diffusion及びMidjourneyで使用されたとされるデータセット内には児童ポルノ禁止法やわいせつ物頒布等罪に違反する画像が収録されている。stability AIとMidjourneyからNSFW画像をデータセットから取り除いたと発表があったが、入力できるテキストにフィルターをかけただけにすぎず、学習データ内に違法コンテンツは残っている。また学習データに対して行われるタグ付け作業は機械判断で行われており、ほかの文字に紛れ込んで描画用データとして利用できる可能性は十二分にある。 リークモデルから作成した画像生成AIはこの制限すら受けることができず、無法状態となっている。 これらの違法画像を出力する可能性がある画像生成AIは違法ではないかとツイッターで糾弾するアカウントが現れる 児童ポルノがデータセットの内部に含まれる証拠として投稿された画像（投稿時はモザイクなし） &