初めての WAIC と WBIC

Sumio Watanabe Homepage なぜ，新しい理論と方法が必要なのでしょうか？ 定義と説明は WAIC と WBIC にあります． 具体的な例で説明します．混合正規分布を考えましょう． モデル選択の問題：「サンプルを発生した真の分布は，いくつの正規分布からできているか？」 【実験例】真のパラメータ (0.5,0.3) で定まる確率分布から独立に X1, X2,...,Xn を 発生して，事後分布をＭＣＭＣ法で作りました（事前分布は 0≦a≦1, -5≦b≦5 上の一様分布です）． 図で，○は事後分布を表します．● は真のパラメータです． 真のパラメータにおけるフィッシャー情報行列 I(0.5,0.3) は正定値です． 従って，n が『十分に大きければ』事後分布は正規分布で 近似できます（フィッシャーの漸近理論あるいはラプラス近似理論）． しかしながら， 上の図から事後分布は正

[abrahamcow]

「統計学を学び始めた人の意見」が高度すぎる。

[katsumushi]

「「適切」とは...？　二つの規準があります． 【予測時の誤差を最小にしたい】あるいは【真のモデルを選ぶ確率を最大にしたい】． AICは前者を目標として作られています．BICは後者を目標として作られています」