どっちがどっちで何しているんだっけ? ブースティングとバギングの区別がようやくつくようになってきた(気がする)がさらにそれぞれのアルゴリズムになるとまだ混乱する。というわけで、今のところの自分の認識を書いてみる。 アンサンブル学習とは アンサンブル学習とはようするに「1回で決めるよりたくさんやって平均取った方がいいんじゃね?」というアプローチということであると理解している。たしかにその方がより正しそうな結論がでそうだし、異常値などに引っ張られることも少なくなったりするだろうと想像はつく。細かいやり方は違うけどやっていることは至極自然な発想。 1つの方法として、データ全てを使うのではなくその一部を使って学習し、それを何度も繰り返して最後に合わせる方法が考えられる。それがバギングである。 ランダムフォレスト バギングの1つの方法。学習に決定木を使うのでこの名前らしい。抽出の際に説明変数もランダ
![アンサンブル学習のブースティングとバギングの違いについて | データ分析とインテリジェンス](https://cdn-ak-scissors.b.st-hatena.com/image/square/ef2defbc993fd4faa12657af47feb5e814cfd7eb/height=288;version=1;width=512/https%3A%2F%2Fanalytics-and-intelligence.net%2Fwp_kanri%2Fwp-content%2Fuploads%2F2018%2F05%2F0d40a5e4a645fc6b96e767d64ac0878e-1.png)