エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
【論文シリーズ】縮小自己符号化器とは - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
【論文シリーズ】縮小自己符号化器とは - Qiita
原文タイトル 特徴抽出時の(自己符号化器の)明示的不変性(Contractive Auto-Encoders_Explicit Invarian... 原文タイトル 特徴抽出時の(自己符号化器の)明示的不変性(Contractive Auto-Encoders_Explicit Invariance During Feature Extraction) Salah Rifai (2011) 1. 要約 事前学習として、多くの教師なし学習手法が生み出されている中、著者は新しいタイプの自己符号化器を考案した。 名称は、縮小自己符号化器(CAE) 過学習を防ぐために、重みベクトルの更新に、あるペナルティ項を加える。これ自体は、過去の自己符号化器にも見られた(スパース正則化や重み減衰など)。 加える項目に、革新性がある。ヤコビアンをフロベニウス正規化した項を加える。詳細は、2.の理論の項に譲る。 2. 骨子の理論 はじめに、加えるべきペナルティ項を記載する; $$||J_f(x)||^2_F = \sum_{ij}(\frac{\partial