機械学習モデルの局所的な説明手法を比較してみる - Qiita

この記事はBrainPad Advent Calendar2021 13日目の記事となります。 アナリティクスサービス部の佐々木です。今回は機械学習モデルの局所的な説明手法について、interpretable machine learningという本を参考に解説していこうと思います。 はじめに 自分は21卒として入社し、研修を経て半年ほどデータサイエンティストとして仕事を行なってきましたが、ビジネスの現場において機械学習モデルの解釈が求められることは多いなと感じています。 入社以来、需要予測の案件に関わっているのですが、「なぜこの商品は需要はこの値になるのか」「なぜこのカテゴリの商品は予測精度が悪化しているのか」といったような質問をクライアントの方から頂く場面がありました。 学生の頃は、機械学習モデルの解釈性は新薬開発やクレジットカードの審査など、人命、生活に大きく関わる場面で用いられるく

[misshiki]

“局所的な説明を可能にする手法として、 LIME Anchor SHAP の3つの概要、実装方法を輪読会で扱っていた本を参考に取り上げ”