ブックマーク / itsukara.hateblo.jp (1)

  • Variational Autoencoderの中間層データの構造(MNIST) - Itsukaraの日記

    結構前(9/6)に、Variational Autoencoderの中間層の構造に関する記事を書きました。その後、前回の記事で気になっていた点(中間層データの構造)を確認したので、メモにします。 以前の記事の要約(今回記事関連) MNISTのデータ(0〜9の各数字の画像データ集)で、中間層を30次元にしてVAEで学習させた場合、中間層のうち11次元のみが活性化し、残りの次元は不活性(値がほぼ0)というのが、前回記事の概要です。この11次元多様体上では、数字の0〜9の画像群が、ある程度分離して分布していると思われますが、11次元多様体の構造を目で見ることは難しく、なんか良い確認手段はないかという話を「あとがき」に書きました。 ちなみに、11次元の球で近似しただけでも、画像データの約9割は、正しく分離できます。つまり、「各数字の画像データ群の中心(計算上は平均値、以下「数字の中心」)」と対象画

    Variational Autoencoderの中間層データの構造(MNIST) - Itsukaraの日記
    rkchif
    rkchif 2020/07/28
  • 1