Chainer v2 でSmoothGradを実装 - Qiita

はじめに 画像認識において、識別器がどこを注目して認識したかを可視化することは重要です。 CNNでは、損失関数の勾配をバックプロパゲーションで入力画像まで伝搬し、その絶対値の強度を可視化する方法が提案されていますが、ノイズが多いという問題がありました。 SmoothGradでは、入力画像にガウシアンノイズを与え、複数の勾配を平均するだけで、きれいな可視化でできるという、とても簡単な方法です。 平均化される様子 Smooth Grad Vanilla Grad（従来手法） TensorFlowのコードや論文は下記からダウンロードできるようです。 https://tensorflow.github.io/saliency/ Chainer v2の勉強を兼ねて、SmoothGradを実装してみました。 モデルには、学習済みのVGG16モデルを使っています。 環境は、 Windows7 64bit