はてなブックマーク

XGBoostのPythonパッケージの中に、Graphvizを使って決定木を描画するAPIが含まれているのを発見したのですが、意外にもこれに関してQiitaに記事が無さそうだったので紹介してみます。 XGBoostとは XGBoostとは勾配ブースティング木（Gradient Boosting Decision Tree）という機械学習の手法を高速化して実装したものです。Kaggleとかで人気らしいです。 元論文は http://www.kdd.org/kdd2016/papers/files/rfp0697-chenAemb.pdf です。 そもそも勾配ブースティング木とは、弱学習器をたくさん組み合わせるアンサンブル法の一種で、勾配ブースティング木の場合、決定木をたくさん組み合わせます。イメージとしては以下のような感じです（画像は元論文から拝借）。 この場合、少年の予測値は2.9、おじ