今さらxgboostの論文解説 - Qiita

勾配ブースティング決定木 （Gradient Boosting Decision Tree, GBDT) について理論的な解説をしている書籍が少なかったので、GBDTの中でも他の手法の基礎となっていそうなxgboostの論文を読んでみました。個人的に読んだ内容を整理するついでに記事にしたいと思います。 xgboostの論文を解説した記事は既に複数あるので、真新しい内容はあまりないかと思いますが、気になったことや自分なりの解釈を書きたいと思います。特に全体を通しての流れであったり、手法のモチベーションなどが分かるように書きたいと思います。また、この記事で重視する分かりやすさとは『平易であること』や『直感的であること』ではなく、『論理の流れ』を明確にすることを目指したいと思っています。 なお、この記事で扱うのは論文の全てでなく、xgboostの仕組みを解説した"2. TREE BOOSTING