GANの安定性に寄与しているというSpectral Normalizationや特異値分解について頑張って理解しようとした - Qiita

はじめに GAN：敵対的生成ネットワーク関連の内容です。GANにおけるモデルは必ずしも訓練によって本物と見分けがつかない画像に収斂していくわけではありません。 訓練が進まない理由として、勾配の消失・モード崩壊という不安定性があります。 この不安定性は、Discriminator(識別器）のリプシッツ連続やリプシッツ定数のコントロールが重要だと言われています。この不安定性を解消するには、Spectral Normalizationが便利です。 さて、、、分からない言葉がいくつか出てきました。今回はこれらの意味するところを私なりに解釈した内容をまとめたいと思います。 今回も参考にさせて頂いた本はこちらです。 Inpaintingからディープラーニング、最新のGAN事情について学べる本を書いた https://qiita.com/koshian2/items/aefbe4b26a7a235b5a