アンサンブル学習 (ensemble learning)† ランダムに解を出力する予測器,すなわち,予測精度が最悪の予測器よりは,高い精度で予測できる弱学習器 (weak learner)を組み合わせて高精度の学習器を構成する方法. バギングやブースティングといった手法が著名. 初期の研究ではクラス分類だけだったが,回帰やクラスタリングにも適用されている. ↑ 文献1でのバイアス-バリアンスの観点からの議論.† まず,クラス分類における不偏性とバイアス-バリアンスを次のように定義*1. 訓練集合 \(T\) から学習した分類器 \(C(X;T)\) の,入出力対 \(X,Y\) の分布に対する誤差は \[PE(C(X;T))=\Pr_{X,Y}[C(X;T)\ne Y]\] 入力に対する真のクラス条件付き分布 \(\Pr[Y|X]\) を用いた最適なベイズ分類器を \(C^\ast(X)\