ベイズ統計学の概論的紹介

ベイズ統計学の基礎概念からW理論まで概論的に紹介するスライドです．数理・計算科学チュートリアル実践のチュートリアル資料です．引用しているipynbは * http://nhayashi.main.jp/codes/BayesStatAbstIntro.zip * https://github.com/chijan-nh/BayesStatAbstIntro を参照ください． 以下，エラッタ． * 52 of 80：KL(q||p)≠KL(q||p)ではなくKL(q||p)≠KL(p||q). * 67 of 80：2ν=E[V_n]ではなくE[V_n] → 2ν (n→∞). * 70 of 80：AICの第2項は d/2n ではなく d/n. * 76 of 80：βH(w)ではなくβ log P(X^n|w) + log φ(w). - レプリカ交換MCと異なり、逆温度を尤度にのみ乗す

[katsumushi]

jupyter notebook も公開してくださっている。http://nhayashi.main.jp/codes/BayesStatAbstIntro.zip

[zou3dazou]

自由エネルギーF = - log Z(X^n)の最小化の正当化：- ¥int Q(x^n) log Z(x^n) dx^n = - ¥int Q(x^n) log Q(x^n) dx^n + KL[Q||Z]となるので、最小化は真の分布Qにモデルを近づけている。また、E_Q[]はn->無限でデータセットにおける平均になるので。

[knok]

MCMC, MH, ギブスサンプリング等