ランダムフォレストの基本的な事をまとめてみた｜Coding Memorandum

本日はランダムフォレストに関して勉強したことをまとめていきます。 ランダムフォレストとは？ ランダムフォレストとは弱学習器(決定木)を複数(並列に)作成して、各弱学習器の出力結果の平均(or多数決)を算出して予測を行うモデルとなります。 ブースティングなどの前の木の情報を利用する直列的なアルゴリズムに対して、同時に複数の木を作成することができるため計算コストが低いアルゴリズムな半面、各決定木の出力値を等しく扱うこともあり？精度が勾配ブースティング系のアルゴリズムと比べて低く、kaggleなどのコンペではあまり活躍していない印象です。 とはいえ、どういうアルゴリズムか興味があったので簡単に基本的なことをまとめていきます。データやアルゴリズムの勉強は下記レクチャーで行いました。後はこちらの論文も参考にさせていただきました。 アルゴリズムの中身 動画でもあるように例として下記のようなゴルフクラブ