サクサク読めて、アプリ限定の機能も多数!
トップへ戻る
iPhone 16
ralo23.hatenablog.com
目次 目次 PyTorchについて Pythonのmultiprocessing A3C 実装 結果 今回のコードとか あとがき PyTorchについて Torchをbackendに持つPyTorchというライブラリがついこの間公開されました. PyTorchはニューラルネットワークライブラリの中でも動的にネットワークを生成するタイプのライブラリになっていて, 計算が呼ばれる度に計算グラフを保存しておきその情報をもとに誤差逆伝搬します. 動的ネットワークライブラリに対して静的ネットワークライブラリ(tensorflowなど)があります. 静的ネットワークライブラリでは計算グラフの形をまず構築し, そのネットワークに対してデータフィードを行うことで順伝搬, 逆伝搬計算を行います. 動的ネットワークライブラリは入力データに対してネットワーク構造を決めることができるのでRNNや再帰構造をもつネッ
はじめに タイトルには脳の非同期学習というようにまるで脳が非同期的に学習をしているかのように書きましたが, そこんところ実際はどうなっているかよくわかりません. 自転車を漕ぎながら考えごとをしたり, サッカーでドリブルしながらシュートかパスか考えたり, 少なくとも思考と運動の処理自体は並列非同期であるよう私自身は思います. まぁよくわからないんですが, とりあえずニューラルネットワークでは非同期でも学習できたよ! というのが今回紹介する論文です. Decoupled Neural Interfaces using Synthetic Gradients 目次 はじめに 目次 どんなことをしているか DNI 実験 詳しい実験結果 追実験 実装 まとめ どんなことをしているか まず言葉の意味から行くと, Decoupledとは分離という意味です. なにを分離するのかというと層の依存関係を分離し
はじめに 出てきた当初は画像分類タスクで猛威を振るった深層学習ですが, 最近はいろんな機械学習と組み合わせで応用されています. 強化学習を応用したAlphaGoでイ・セドルを打ち負かしたり, 画像認識と自然言語処理の組み合わせで画像のキャプションを生成したり, 生成モデルに応用して自然に近い画像を作るなど賑わいを見せています. 今回は画像生成手法のうちのDeepLearningを自然に生成モデルに拡張したと考えられるVAE(Variational Auto Encoder)から, その発展系であるCVAE(Conditional VAE)までを以下2つの論文をもとに自分の書いたkerasのコードとともに紹介したいと思います. Auto-Encoding Variational Bayes Semi-Supervised Learning with Deep Generative Model
このページを最初にブックマークしてみませんか?
『ralo23.hatenablog.com』の新着エントリーを見る
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く