はじめに Partial Dependence 特徴量が独立の場合 数式による確認 PDの実装 特徴量が相関する場合 PDがうまく機能しない原因 Marginal Plot Marginal Plotの数式 Marginal Plotのアルゴリズム Maginal Plotの実装 Accumulated Local Effects ALEのアイデア ALEはうまく機能するのか ALEのアルゴリズム ALEの実装 ALEの数式 まとめ Appendix:線形回帰モデルの場合 参考文献 この記事をベースにした発表資料です! speakerdeck.com はじめに Random Forestやディープラーニングなどのブラックボックスモデルは、予測性能が高い一方で解釈性が低いというトレードオフを抱えています。 これを克服するために、ブラックボックスモデルに後から解釈性を与える「機械学習の解釈手法
![Accumulated Local Effects(ALE)で機械学習モデルを解釈する - Dropout](https://cdn-ak-scissors.b.st-hatena.com/image/square/bbdb8517a7ed4d041ea5b672fe5381b3b8733edf/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fd%2Fdropout009%2F20210808%2F20210808020707.png)