Nature ハイライト：ゴミを生み出す：AIが生成したデータで学習したAIモデルは、意味のないテキストを生成する | Nature | Nature Portfolio

Cover Story：ゴミを生み出す：AIが生成したデータで学習したAIモデルは、意味のないテキストを生成する 2024年7月25日 Nature 631, 8022 大規模言語モデル（LLM）などの生成AIツールの爆発的な普及は、その訓練に使用された膨大な量のデータによって支えられてきた。こうした訓練データは人間が作成したものである。生成AIツールがさらに普及して、その出力がオンラインでますます利用可能になるにつれ、訓練データの情報源がコンピューターによって生成されたコンテンツに切り替わる可能性も考えられる。今回I Shumailovたちは、こうした変化がもたらすであろう影響について調べ、その結果はあまり期待できないことを明らかにしている。彼らは、AIが生成したデータを生成AIモデルに与えると、それ以降の世代の生成AIモデルが崩壊するほどに劣化することを見いだした。あるテストでは、中世

[maeda_a]

"AIが生成したデータを生成AIモデルに与えると、それ以降の世代の生成AIモデルが崩壊するほどに劣化…あるテストでは、中世の建築に関するテキストが出発点…9世代目になると、モデルの出力はジャックウサギのリストに"