RBMの学習は隠れ変数のある最尤推定だからEMアルゴリズムかなと思ったら対数尤度の勾配がうまく計算できないらしく、サンプリングでやるContrastive Divergence法というのを使うらしい。

masatoi のブックマーク 2016/02/03 20:14

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/241471510/comment/masatoi" data-user-id="masatoi" data-entry-url="https://b.hatena.ne.jp/entry/s/mkprob.hatenablog.com/entry/2014/07/20/034311" data-original-href="https://mkprob.hatenablog.com/entry/2014/07/20/034311" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fmkprob.hatenablog.com%2Fentry%2F2014%2F07%2F20%2F034311" data-user-icon="/users/masatoi/profile.png">Contrastive Divergence 法 - 突然終わるかもしれないブログ</a><br><p style="clear: left">RBMの学習は隠れ変数のある最尤推定だからEMアルゴリズムかなと思ったら対数尤度の勾配がうまく計算できないらしく、サンプリングでやるContrastive Divergence法というのを使うらしい。</p><a class="datetime" href="https://b.hatena.ne.jp/masatoi/20160203#bookmark-241471510"><span class="datetime-body">2016/02/03 20:14</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

Contrastive Divergence 法 - 突然終わるかもしれないブログ

mkprob.hatenablog.com2015/02/11

Contrastive Divergence法 (Hinton, 2002)について少し勉強したので，そのまとめです． Contrastive Divergence 法とは（確率的な）最適化方法です．正確には正規化定数が分からない（求めるのが困難）確率分布...

7 人がブックマーク・1 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

Contrastive Divergence 法 - 突然終わるかもしれないブログ

はてなブックマーク

公式Twitter

はてなのサービス