見えてきた説明可能AIの「限界」、代表格LIMEとSHAPの最新動向を知る

「ここ2年ほど、主要な国際AI学会では新しい『説明可能なAI』の手法の提案よりも、どの説明可能AIが実社会で使えるか、生成する説明に信頼性があるか、などを検証する研究が増えてきた」。説明可能AIの研究動向に詳しい大阪大学 産業科学研究所の原聡助教はこう語る。 説明可能AIへのニーズや実用化への機運が産業界で高まりつつある一方、大学など学術界においては技術の限界や過信へのリスクに警鐘を鳴らす研究が目立ってきた。説明可能AIの実用化に向けた、産業界と学術界双方の動きを追った。 説明可能AIの代表選手「LIME」と「SHAP」 説明可能AIの手法はいくつかあるが、特に産業界において代表的な手法と目されているのが「LIME（local interpretable model-agnostic explanations）」と、その発展形である「SHAP（SHapley Additive exPlan

[isrc]

現状ではSHAPなど局所的な説明を『AIの公平性』の根拠には使いづらい／説明可能AIは、ユーザーの目的に合致しなければ意味は無い