決定木メモ - Negative/Positive Thinkingはじめに 決定木についてちょっと調べてみたので、メモ。 決定木(decision tree)とは 木構造(多分木)を使って、分類・回帰問題を解く root(根)を含む各内部ノードは、「変数」を表す leaf(葉)は、変数に対する「予測値、分類値」を表す 入力xを、ルートからスタートし各ノードの条件に従って葉に来て出力yが決まる 連続if-thenだと見ると理解しやすい 出力yは、分類ならクラス、回帰なら定数値などになる 訓練データD={(x,y)}から木構造を構築することを「決定木の学習」という 見た目にもわかりやすく、扱いやすい、比較的単純な機械学習法の一つ サイズが小さめならば。 精度はあまりでない(らしい) 空間を矩形領域でしか区分しないと考えるとそんな感じもする 問題点 多くの学習方法では、特徴空間の軸に平行(x_0<3.0など)なため、平行でないような場合(x_1>2x_0+3な
