XAI（説明可能なAI)備忘録 - Qiita

背景 AI活用の広がりに伴い、精度に加えて以下の3つの価値が求められるようになりました。 - 公平性（Fairness） - 説明責任（Accountability） - 透明性（Transparency） 公平性（Fairness） 利用者の属性の違いによらず、AIが公平なサービスを提供できるよう、不公平を生じるバイアスを排除すること。 説明責任（Accountability） 誤りの原因がどこにあり、その責任は誰・何にあるのかを明確にすること。 透明性（Transparency） 利用者が理解できる形で、 AIシステムの情報を提示できること。 XAIとは 内部に複雑な構造を持つAIについて、予測の判断理由を人間が理解できるように説明する技術（または特性）を指しています。 代表的な手法 大域的な説明 Born Again Trees Making Tree Ensembles Inter