ベイズ学習についての基礎的な概念の定義を知りたい方は、 初めてのベイズ学習を参考にしてください。 1. クロス・バリデーションとは (1) 真の分布 q(x) から n 個の独立なサンプル D=(X1,X2,...,Xn) が 得られたとき、パラメータ w を持つ学習モデル p(x|w) と事前分布φ(w)とを 用いて、逆温度βのベイズ推測をして予測分布をつくり、その予測分布が 真の分布 q(x) に近いだろうと考える方法をベイズ学習といいます。 (普通はβ=1を使います)。 (2) 交差確認法(クロスバリデーション)について説明します。 交差検証法と呼ばれることもあります。 サンプルの集合 D から、ひとつだけサンプルを取り出して、 残りの(n-1)個のサンプルを用いてベイズ学習して予測分布を作り、 別に取り出しておいた残りの1個のサンプルをテストに使うことで 汎化損失を推定することがで