SHAPを用いた木構造モデルの解釈機械学習モデルの解釈性については、しばしば問題になります。 「モデルの精度が高いが、なぜモデルが、その予測を行ったのかを説明できず、実用に至れなかった…。」 といった事を、多くの方が経験しているのではないでしょうか? 今回は、複雑なモデルの解釈を行うための手法「SHAP(SHapley Additive exPlanations)」を紹介します。 そして、実際に「木構造モデル」に適用したいと思います。 この記事で紹介すること複雑なモデルにおいて、各特徴量の寄与の解釈を行うモデル「SHAP」を解説。「SHAP」を、実際に「木構造モデル」に適用してみた結果を、特徴量重要度の指標と比較する。モデルの解釈性についてまず、機械学習モデルの解釈性について説明します。 一般的に、「モデルの複雑性」と「解釈性」は、トレードオフの関係にあります。 例えば、 「重回帰モデル」
![【機械学習】SHAPを用いた木構造モデルの解釈 – 株式会社ライトコード](https://cdn-ak-scissors.b.st-hatena.com/image/square/3d09cc9580513e9769ae008c8f835ffeb2a5bc63/height=288;version=1;width=512/https%3A%2F%2Frightcode.co.jp%2Fwp-content%2Fuploads%2F2020%2F03%2FSHAP.png)