今更聞けないディープラーニングの話【ユニット・層・正則化・ドロップアウト】 - HELLO CYBERNETICSディープラーニングを手軽に始められるようにはなったものの、実際に学習を上手く進めるにはチューニングという作業が欠かせません。ここではチューニングの際に気をつけることをサラっとまとめておきます。 層の数とユニットの数 層の数 層が多いことの弊害 基本的指針 発展的方法 ユニットの数 前提の知識 学習の指針の例：情報圧縮 ニューラルネットの中間層の役割 出力と入力の架け橋 中間層による表現力の柔軟性 正則化 L1正則化 L1正則化の概要 L1正則化の役割 ハイパーパラメータの調整 L2正則化 L2正則化の概要 L2正則化の役割 正則化がもたらすニューラルネットへの影響 正則化が上手に働く状況 正則化が失敗する例 正則化における方針 最適化法 学習における偽物の解 改良された勾配法 ドロップアウト アンサンブル学習 アンサンブル学習の考え ドロップアウトとアンサンブル学習 ドロップアウトをした場
