【AI狂牛病】AIイラストで画像生成AIが学ぶデータ崩壊が起こりつつある - ナゾロジー

画像生成AIモデルは、膨大なサンプルから学習し、新たな画像を生み出します。 その結果、今やネット上にはAI画像があふれています。 では、AIモデルが、知らず知らずのうちにAI画像を取り入れて学習するようになると、どうなるのでしょうか。 アメリカのライス大学（Rice University）に所属するリチャード・G・バラニューク氏ら研究チームは、生成AIモデルが合成データを学習して新たな合成データを生成するループが生じると、生成される合成データの品質はどんどん劣化していくと報告しました。 研究チームは、こうした状況を狂牛病（ウシにウシの肉骨粉をエサとして与える行為で蔓延した疾患）になぞらえています。 そして現在、静かに「AI狂牛病」が広がっているかもしれません。 この研究は2024年5月オーストリア・ウィーンで開催された深層学習分野の国際会議「ICLR 2024」で発表されていて、論文はプレ

[eggplantte]

やっぱAIが生成したものにはメタ情報をつけさせる法規制が必要だと思う

[totoronoki]

そしてAIは高品質なデータを確保するため、1990〜2020年までをループする仮想空間を構築、捕らえた人間の記憶を消し仮想空間に脳を繋いで……

[umyutan]

約5年前の技術「StyleGAN-2」におけるデータ崩壊についての、1年前の論文です。2024年現在の主流の、拡散モデル（Diffusion model）の論文ではありません。なおStyleGAN-2のモデルのファイルサイズは約305MBです。

[quwachy]

漫画で絵を練習した漫画家の絵で練習した結果、意味不明な現実とはかけ離れた絵ができた(鼻筋の窪みが謎のシミになった)。実際には写真からも学習するし、意味不明なAIができたら再学習させるからこうはならない

[narwhal]

ほうかい。

[fusanosuke_n]

例えば、あるケースではループが繰り返されるうちに、生成された人物画像には、格子状の模様が強く現れるようになりました。