反実仮想サンプル生成：「DiCE」 - Qiita

はじめに ML (Machine Learning:機械学習)モデルの解釈は，ビジネスの現場における重要課題です． 推定精度の高いMLモデルを開発し，「出力と特徴量の対応関係」を評価することで， ビジネス効果のある施策を打ち出すことが可能になります． ex ： 「成功確率」（出力）が高くなる，「プロジェクトリーダーの条件」（特徴量） 近年，MLモデル解釈の方法として，「ELI5」「LIME」「SHAP」などの様々なアルゴリズムが開発されています． これらアルゴリズムの内容は，「出力に対する特徴量の寄与度の計算」というもので，このような「寄与度の評価」では，モデルの解釈が「出力と特徴量の関係性の記述」に留まるため，出力最適化のためのサンプル特徴量の生成が難しい点があります． Microsoft Researchが開発した「DiCE」は，反実仮想を考慮したモデル解釈アルゴリズムであり，目的とす