2017年10月8日のブックマーク (1件)

  • The Numerics of GANs

    In this paper, we analyze the numerics of common algorithms for training Generative Adversarial Networks (GANs). Using the formalism of smooth two-player games we analyze the associated gradient vector field of GAN training objectives. Our findings suggest that the convergence of current algorithms suffers due to two factors: i) presence of eigenvalues of the Jacobian of the gradient vector field

    elu_18
    elu_18 2017/10/08
    GANの学習は、GとDの間にナッシュ均衡を見つける問題と見立てられる。これを見つけるにはsimultaneousなGDが用いられるが、両者の勾配ベクトルが特定の固有値を持つ場合収束しない。そこで正則化項を導入しこれを防いでい