こんにちは。 最近、アンサンブル学習について勉強しているんですが、この記事ではBoostingについて調べたことを書きます。以下がその他のアンサンブル学習とか全般的な話とかについて書いた記事なので、バギングとか知りたい人は以下の記事をどうぞ。 st-hakky.hatenablog.com ◯Boostingとは Boostingとは、弱学習器をboostして、そのアルゴリズムよりも強い学習アルゴリズムをつくることです.ブースティングの一般的な考え方は、学習器を連続的に学習させて、より精度が向上するように修正していくことです。 学習した予測器をより良いものにするためには、単純に間違えたものにより注意を払って次の学習を行えばいいと考えられます(以下の図参照)。 引用:Géron, Aurélien. "Hands on Machine Learning with scikit-learn a
![Boosting(ブースティング)について調べたのでまとめる:AdaBoost / Gradient Boosting / XGBoostなど - St_Hakky’s blog](https://cdn-ak-scissors.b.st-hatena.com/image/square/d8741993e0afaa9f6f1f2ec620b41359a58ccd9c/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2FS%2FSt_Hakky%2F20170728%2F20170728171209.jpg)