深層学習の判断根拠を理解するための 研究とその意義 @PRMU 2017熊本2. Copyright © 2017 TIS Inc. All rights reserved. 2 深層学習における、解釈性の問題 説明力が問われるシーン 判断に影響を受ける関係者がいる場合 法的責任が伴う場合 継続的なメンテナンスが必要な場合 判断根拠を理解するための手法 ネットワークの出力を最大化する入力の作成 入力に対する感度を分析する 出力から入力までの経路を逆にたどる 様々な入力から出力の傾向を推定する 入力に対する着目点をモデルに組み込む 説明力に対する評価 説明の一貫性に対する評価 説明の正当性に対する評価 説明力の利用事例 おわりに 目次 3. Copyright © 2017 TIS Inc. All rights reserved. 3 久保隆宏 TIS株式会社 戦略技術センター 化学系メーカーの業
