本論文では,学習という用語を統計モデルのパラメータ推定の意味で用いる. 混合分布の学習法としては,モーメント法など種々の方法が知られているが, 最も一般性があるのは尤度を最大にする最尤推定法である. 最尤推定は多くの場合計算が 簡単であり,(正則条件のもとで)漸近有効性をもつので,広く用いられている. 本章では,まず混合分布の最尤推定について述べ, 汎化能力を評価するための尤度のバイアスに関する知見を整理する. 次に,混合分布の学習アルゴリズムとして EM アルゴリズムを取り上げ,従来行われてきた研究の概要と本論文で必要と する事項のまとめを行う. Subsections 最尤推定 汎化と竹内の情報量規準 (TIC) 汎化バイアス 竹内の情報量規準 (TIC) 冗長性と特異性 EM アルゴリズム 一般的な特徴 一般的な定式化 独立なサンプルが与えられた時の混合分布の学習 独立な要