LIMEによる機械学習モデルの局所説明 - Qiitaはじめに こんにちは、@sasshi_iです。 本日はXAIの手法の1つであるLIME(Local Interpretable Model-agnostic Explanations)について説明したいと思います。 LIMEは局所説明の手法です。 LIMEはある入力に対して機械学習モデルの出力に寄与した特徴量を算出します。 局所説明って何？という方はこちらの記事をご覧ください。 それでは、LIMEがどのように機械学習モデルを説明するのかを説明していきます。 LIMEとは？ LIMEは、複雑な機械学習モデルを説明するための解釈可能な機械学習モデルを作ります。 LIMEがどのように機械学習モデルを説明しているかみていきましょう。 どのようにして解釈可能な機械学習モデルを得るのか LIMEは、複雑な識別境界や内部ロジックを持つ機械学習モデルであっても、説明対象の近傍に限れば、単純な(解釈可能な)
