これは パターン認識と機械学習(PRML)読書会 #7 (5章 ニューラルネットワーク 後半) での発表用の資料「5.7 ベイズニューラルネットワーク」です(作成中)。 はてP でプレゼン資料になります。 論文読むときに役立つよう、用語は英語で書いたりしてます。細かい説明/計算やサンプルは読書会にて板書します。 資料その1 資料その2 資料その3 ベイズニューラルネットワーク 「周辺化」が必要 ← 解析的に評価するのが難しい 極度に非線形 事後確率の対数は非凸 誤差関数は複数の局所的極小点を持つ アプローチ 変分推論法(10章) ラプラス近似(本章) (★「最も完全に取り扱う方法」だって? p165 には「ラプラス近似は確率分布の構造をうまく捉えることができず、近似性能はあまり良くない」とも書いてあるんだけど ⇒ 「もっとダイレクトに取り扱う方法」くらいの意味?*1 ) 5.7.1 パラメ