数理から

概統計モデル 統計モデルM が仮定されたとき， M の管状近傍を N(ε, M) = { p : KL(p, M) ≦ ε2} と定める．ここで KLはKullback-Leibler (KL) ダイバージェンスを表し，KL(p, M) は密度関数 p から 統計モデル M へ射影を表す． この N(ε, M) を概統計モデルと呼ぶ．定義から，ε = 0 のとき，N(ε, M)は M に他ならない，すなわち，統計的パラメトリック漸近論の基本設定は，今の文脈で云うと ε = 0 であって，データ分布の密度関数はM の中にある． 概統計モデルの考えでは, ε = O(1) とすれば， データ分布 p はデータ数 n が無限になってもデータ分布と統計モデルM への乖離が存在することを意味する．このときは統計モデルM の情報を無視してノンパラメ