最近,通勤時間にはStanford大学のMachine Learningの講義ビデオを見て勉強していますが,教師あり学習において特徴選択を行なう方法が興味深かったのでメモしておきます.Stanford School of Engineering - Stanford Engineering Everywhere (動画はiTunes Uからダウンロードできます) 全探索 全ての特徴量の組合せを全探索する. (全特徴数,選択特徴数)の組合せになるため,計算量が非常に大きく現実には不可能 Forward Search 特徴量が1つもない状態から初めて,まだ追加していない特徴量の中から最も有効な特徴量を追加する ある特徴量が有効かどうかは交差検定などを用いて決定する Backward Search 全ての特徴量を含む状態から初めて,最も不必要な特徴量を削除していく ある特徴量が不必要かどうかは交