この記事の目的GBDT(Gradient Boosting Decesion Tree)のような、決定木をアンサンブルする手法において、特徴量の重要性を定量化し、特徴量選択などに用いられる”Feature Importance”という値があります。 本記事では、この値が実際にはどういう計算で出力されているのかについて、コードと手計算を通じて納得することを目指します。 なお、この記事は3回シリーズの第2回で、最終的にcatboostのfeature importanceの算出方法を理解するのが目的です。ここでは、用意されているfeature importanceの計算方法がわかりやすいxgboostを使います 第1回: Catboostの推論の仕組みを理解する 第2回: Feature Importanceの計算を理解する (イマココ) 第3回: CatboostのFeature Impor
![Feature Importanceって結局何なの?|Yotaro Katayama](https://cdn-ak-scissors.b.st-hatena.com/image/square/59655d0e628a21ea9b2c108760d1d331888b2423/height=288;version=1;width=512/https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F29895965%2Frectangle_large_type_2_2c79841bcac7d64ef7681dfc5c2eec86.png%3Ffit%3Dbounds%26quality%3D85%26width%3D1280)