情報量規準
データを X1,X2,...,Xn とします。 パラメータ w によって定まる x の確率密度関数を p(x|w) と書き、 確率モデル、統計モデル、学習モデルと呼びます。 を尤度関数と言います。また、φ(w) を w の集合の上の確率 密度関数とします。与えられたデータがある確率分布から 独立に発生した場合を想定して、モデルである p(x|w) と φ(w) の 良さを考えてみることにします。 1. ベイズ情報量規準 データが与えられたとき、 を小さくする「p(x|w) とφ(w)」 の組を データの記述に相応しいと考える規準をベイズ情報量規準と 呼ぶことにします。 F のことを、対数周辺尤度、記述長、自由エネルギー といいます。 2. 最尤情報量規準 尤度 L(w) を 最大にするパラメータを w* と書くことにします。 これを最尤推定量といいます。p(x|w*) を用いて予測するとき
赤池情報量基準ってナニ？ - hiroyukikojima’s blog
ゴールデンウィーク突入で、本学ははざまの平日も特別休校になったので、一週間の連休。そんなわけで、科研の論文執筆を進めるとともに、統計学に関する新書の執筆を進めている。(編集者さん、ちゃんと休日返上で書いてますからね〜。アリバイ・アリバイ)。統計学の新書を書く都合上、赤池情報量基準を勉強した。もちろん、高度すぎて新書には取り入れられないけど、著作の奥行き・隠し味として知っておきたいからだ。 それで、前回(ミス・ユニバース日本代表の統計学 - hiroyukikojimaの日記)には、鈴木義一郎『情報量基準による統計解析入門』講談社サイエンティフィク(以下、この本のことを[鈴]と略記する)を紹介したわけだけど、話が横滑りをしてるうちに、結局、赤池情報量基準について書くのを忘れてしまったのだ(笑い)。そんだから、今回は、ちゃんと赤池情報量基準について、わかった範囲で書こうと思う。 情報量規準によ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
