Sanity Checks for Saliency Mapsを読んでまとめました。 解釈間違い等ある時がありますので、その場合指摘いただけると助かります。 背景と概要 機械学習技術が向上し複雑になり、インパクトを与えるようになるにつれ、説明する手法(Saliency method)が更にもとめられてきている。 様々なSanity methodを用いたSanity map その手法の適切さを評価するための、randomization testをベースとした手法(Sanity check)に関する論文。 論文では主に、Neural networkを用いた画像分類についての、いくつかのsaliency methodの分析について例示されている。 他の説明手法に対しても適用できる手法。 2種類のrandomization test 本論文ではランダム化する対象毎に2種類のrandomizatio