はじめに 本記事は、生成AI Advent Calendar 2024の10日目の記事です。 画像生成AIを勉強する中で、確率分布をモデル化するために、対数尤度を最大化するように学習しますという話はよく聞く話だと思います。 私も、画像生成AIの一つである「拡散モデル」に関して、簡単な理論的説明の記事を書きました。 理論的説明と言いましたが、ほとんど数式を使わずに簡単に解説したので、誰でもわかりやすく読めると思います。 (下の記事は少しだけ数式が増えるので、数式的な興味がある方だけがみていただければと思います) 上記の記事でも、説明しましたが、基本的に画像生成AIでは、自然画像の確率分布を学習しており、そのために対数尤度の最大化を行い、確率分布を学習しようとします。 しかしながら、どの参考書や技術記事を見ても、(拡散モデルやVAEでは)対数尤度ではなくELBOを代わりに最大化させるようにして
