Python - ScikitLearnの学習 ( 決定木、ランダムフォレスト法 ) - Qiita

Odyssey CBTのPython3 エンジニア認定データ分析試験の学習を始めました。今回はScikitLearnで決定木・ランダムフォレスト法を使った機械学習について学びました。 決定木の基礎知識 決定木は情報を木構造を使って分類し、機械学習の指標に情報利得（親ノードの不純度 - 子ノードの不純度の合計）を計算する機械学習のアルゴリズムです。情報利得・不順度の計算にはジニ不純度・エントロピー・分類誤差の指標が等々が用いられます。今回はジニ不純度を使って決定木を生成します。 ジニ不純度と情報利得 ジニ不純度とはノードに誤ったクラスが振り分けられてしまう確率を表します。例えばクラス0となる確率が0.6、クラス1となる確率が0.4、の場合、ジニ不順度は0.48となります。**決定木の目的はジニ不純度をなるべく減らし誤分類が行われる確率を極限まで下げる（情報利得を上げる）**ことです。 ジニ不