Rで RandomForest を試してみたのでメモ。 参考書籍は, はじめてのパターン認識です。 決定木 決定木は木構造の有向グラフです。目的変数が量的データの場合は回帰木となり, 質的データの場合は分類木となります。 Rでは {rpart} で決定木を構築できます。 アンサンブル法 アンサンブル法は, 複数の弱分類器から高性能な強学習器を生成する仕組みで集団学習とも言います。 アンサンブル法はブースティングとバギングの2つの枠組みがよく知られています。 バギング (Bootstrap AGGregatING) はブートストラップサンプリング (Bootstrap Sampling) と集約 (Aggregating) の2つの要素からなります。 ブートストラップサンプリングは n 個のサンプルデータから重複を許してランダムに n 個選択するリサンプリング手法です。 得られたサブセットで