初めての WAIC と WBIC
Sumio Watanabe Homepage なぜ，新しい理論と方法が必要なのでしょうか？ 定義と説明は WAIC と WBIC にあります． 具体的な例で説明します．混合正規分布を考えましょう． モデル選択の問題：「サンプルを発生した真の分布は，いくつの正規分布からできているか？」 【実験例】真のパラメータ (0.5,0.3) で定まる確率分布から独立に X1, X2,...,Xn を 発生して，事後分布をＭＣＭＣ法で作りました（事前分布は 0≦a≦1, -5≦b≦5 上の一様分布です）． 図で，○は事後分布を表します．● は真のパラメータです． 真のパラメータにおけるフィッシャー情報行列 I(0.5,0.3) は正定値です． 従って，n が『十分に大きければ』事後分布は正規分布で 近似できます（フィッシャーの漸近理論あるいはラプラス近似理論）． しかしながら， 上の図から事後分布は正
広く使える情報量規準(WAIC)
このページをご覧いただき、ありがとうございます。 ここでは、情報量規準 WAIC を紹介しています。 ベイズ推測のための情報量規準(WAIC)が導出されました。 WAIC は（真の分布、確率モデル、事前分布）がどのような場合でも使う ことができます。他の規準と異なり理論的な基盤を持っています。 (0) モデル選択やハイパーパラメータの最適化に使えます。 (1) 漸近的に汎化損失と同じ平均値と同じ分散を持ちます。 (2) WAIC は簡単に計算できます。 (3) 真の分布が確率モデルで実現可能でなくても使えます。事前分布が真の事前分布でなくても使えます。 (4) 平均対数損失を最小にするパラメータがユニークでなくても使えます。 平均対数損失を最小にするパラメータが特異点を含む解析的集合であっても 使えます（注１）。 (5) フィッシャー情報行列が正則でなくても使えます。 (6) 事後分布が正
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
