Denoising Autoencodersにおける確率的勾配降下法（数式の導出） - Yusuke Sugomori's Blog

学びカテゴリーの変更を依頼記事元:

blog.yusugomori.com

3 usersがブックマークコメント

記事へのコメント0件

注目コメント
新着コメント

新着コメントはまだありません。
このエントリーにコメントしてみましょう。

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

リンクを埋め込む

以下のコードをコピーしてサイトに埋め込むことができます

<iframe marginwidth="0" marginheight="0" src="https://b.hatena.ne.jp/entry.parts?url=http%3A%2F%2Fblog.yusugomori.com%2Fpost%2F42116682299%2Fdenoising-autoencoders%25E3%2581%25AB%25E3%2581%258A%25E3%2581%2591%25E3%2582%258B%25E7%25A2%25BA%25E7%258E%2587%25E7%259A%2584%25E5%258B%25BE%25E9%2585%258D%25E9%2599%258D%25E4%25B8%258B%25E6%25B3%2595%25E6%2595%25B0%25E5%25BC%258F%25E3%2581%25AE%25E5%25B0%258E%25E5%2587%25BA" scrolling="no" frameborder="0" height="230" width="500"><div class="hatena-bookmark-detail-info"><a href="http://blog.yusugomori.com/post/42116682299/denoising-autoencoders%E3%81%AB%E3%81%8A%E3%81%91%E3%82%8B%E7%A2%BA%E7%8E%87%E7%9A%84%E5%8B%BE%E9%85%8D%E9%99%8D%E4%B8%8B%E6%B3%95%E6%95%B0%E5%BC%8F%E3%81%AE%E5%B0%8E%E5%87%BA">Denoising Autoencodersにおける確率的勾配降下法（数式の導出） - Yusuke Sugomori's Blog</a><a href="https://b.hatena.ne.jp/entry/blog.yusugomori.com/post/42116682299/denoising-autoencoders%E3%81%AB%E3%81%8A%E3%81%91%E3%82%8B%E7%A2%BA%E7%8E%87%E7%9A%84%E5%8B%BE%E9%85%8D%E9%99%8D%E4%B8%8B%E6%B3%95%E6%95%B0%E5%BC%8F%E3%81%AE%E5%B0%8E%E5%87%BA">はてなブックマーク - Denoising Autoencodersにおける確率的勾配降下法（数式の導出） - Yusuke Sugomori's Blog</a></div></iframe>

プレビュー

規約違反を報告

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

Denoising Autoencodersにおける確率的勾配降下法（数式の導出） - Yusuke Sugomori's Blog

Extracting and Composing Robust Features with Denoising Autoencoders [Vincent 2008] では、Deep Le... Extracting and Composing Robust Features with Denoising Autoencoders [Vincent 2008] では、Deep Learning の一手法である、Denoising Autoencoders（DA）による学習手法が提案されています。 DAでは、入力データの一部をあえて損傷させ、損傷したデータを復元するような訓練を行います。その際、[Vincent 2008]には確率的勾配降下法（stochastic gradient descent, SGD）を用いればよい、との旨が書かれていますが、いざ実装しようとした時、数式が少し複雑でしたので、その導出過程についてまとめたいと思います。記号等はなるべく文献に合わせてあるので、細かな説明は省いてあります。また、[Vincent 2008]に従って、入力データがとる値は、0 or