フレンズ画像を生成させてみたい - Wasserstein AutoEncoder - Qiita
GrubCutを使ってそこそこ背景除去ができたので、そのデータを使って画像生成にチャレンジしてみました。今回はGANではなくWasserstein AutoEncoderを使っています。 Adversarial AutoEncoder 当初、Adversarial AutoEncoderの利用を考えていました。これはAutoEncoderをGANのアプローチで実現するもので、一般的なAutoEncoderと異なり画像の特徴を特定の分布に従った潜在空間に埋め込むもので、VAEに近いものと理解しています。 参考: [Survey]Adversarial Autoencoders - Qiita Wasserstein AutoEncoder Wasserstein AutoEncoderの符号化器は決定的ではなく確率的である方が潜在変数の次元数がデータの有効次元数と合わない場合でもうまく学習で
自己回帰型モデルの深層学習 - Start Today Technologies TECH BLOG
初めまして、データチームの上月です。 今回はVASILYテックブログ初の論文紹介、テーマは 自己回帰型モデル（Autoregressive, AR）です。 はじめに VASILYではIQONの類似画像検索にAutoencoderを適用しています。 具体的にはアイテム画像で学習したAutoencoderの潜在変数を特徴量として類似画像検索を行っていますが、背景やモデルの影響を受けやすいなどの課題があります。 この問題は「潜在変数にどのような情報を持たせるか」を調整することで解決できる可能性が高く、潜在変数の分布にはdecoderの表現力が関係しています。 最近ではVAEのdecoderとしてRNNや自己回帰型モデルなどといった表現力のあるモデルを用いたり1、 decoderの後にPixelCNN2を追加することで潜在変数がもつ情報を目的にあったものにする例があります（PixelVAE3）。
《日経Robo》多様体仮説：現実世界のデータをどうモデル化するか
学習後のVAEにおいて、ノイズベクトルの中の特定の要素を滑らかに動かすと、VAEで生成される顔画像も、表情などが滑らかに変化する。（写真：D. Kingma et al,“Auto-Encoding Variational Bayes” Figure 4（a）より引用、https://arxiv.org/abs/1312.6114） 各点の周りがn次元的に拡がっているような空間を多様体と呼ぶ。別の言い方をすれば、局所的にはn次元の座標系を使って表すことができ、それがn次元ユークリッド空間と同相（滑らかに変形させていって同じ形にできる）であるような空間である。 現実世界のデータ分布は多くが低次元多様体 例えば、n次元ユークリッド空間自身はどの点でもn次元の拡がりを持った多様体である。また、球面というのは3次元空間中の2次元的な広がりを持つ多様体である。球面全体は2次元と同相ではないが（例えば
【論文読み】CVAE-GAN : Fine Grained Image Generation though Asymmetric Training - KAZ log TechMemo
今回はクラス情報を持った画像を生成するためにVAEとGANを上手に組み合わせましたよというお話。 CVAE-GAN: Fine Grained Image Generation though Asymmetric Training 【感想】 ・Mean feature matching のなるほど感 ・Loss関数たくさん＆そこにハイパラ設定せにゃならん →職人芸感満載、しかもepock数100kとか言われると自分の設定正しいかの検証無理。 【Abstruct】 あるIdentityを持った様々なカテゴリーの画像を生成したい VAEとGANを組み合わせたモデルを提案する しかし、ナイーブにはうまくいかない、なぜならばVAEの画像はぼやけるからCriminatorが簡単に偽物と判別できる なので、 本物のデータ群の平均の特徴量とのL2距離を損失関数として採用 勾配消失が緩和される Mean
ご注文は機械学習ですか？
実装した論文やツールなど。 実装難易度は10段階です。記載がないものは容易に実装できます。 Chainer chainer.nn ChainerのChainをもっと書きやすくするために作りました Deep Learning Training RNNs as Fast as CNNs Simple Recurrent Unit RNNの高速な実装です LSTMに比べて10倍程度速いです Self-Normalizing Neural Networks 出力が自動的に正規化される活性化関数です 効く場合と効かない場合があります Learning Discrete Representations via Information Maximizing Self Augmented Training Regularized Information MaximizationとVirtual Adver
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Deep Generative Modelling: A Comparative Review of VAEs, GANs, Normalizing Flows, Energy-Based and Autoregressive Models
Variational Approaches for Auto-Encoding Generative Adversarial Networksの紹介