AIは訓練データに痕跡がなくても別のAIから悪い癖を受け継ぐことが判明

AI Models Can Pass On Bad Habits Through Training Data, Even When There Are No Obvious Signs In The Data Itself AIが別のAIに癖を伝える仕組みとは ChatGPTやGemini、Claudeといった対話型AIの多くは、大規模言語モデル（LLM）と呼ばれる技術を基盤としている。 LLMは人間が書いた大量のテキストを学習することで、文章を生成したり質問に答えたりする能力を身につける。 ところが近年、すでに完成した別のLLMが生成したデータを使って新しいLLMを訓練する手法が広く使われるようになった。 LLMが入手できる人間生成のデータが限界に近づいており、LLMが生成した合成データで補う必要が出てきたからだ。 また「知識蒸留（Knowledge Distillation）」という手