ニューラルネットワークはどのように画像を理解しているのかニューラルネットワークは画像認識などの分野で力を発揮していますが、ただ画像を識別するだけでなく、どのような根拠を元に分類が行われたのかを人間が理解できるようにする必要があります。機械学習を扱うブログ「Distill」に、既存の解釈可能なメソッドをリッチなユーザーインターフェースにまとめることでニューラルネットワークの画像認識処理を人間が理解しやすくするという方法へのアイデアが掲載されています。 The Building Blocks of Interpretability https://distill.pub/2018/building-blocks/ ニューラルネットワークは、入力された画像のすべてのピクセルのカラーチャンネルの値を入力する入力層と、クラスラベルに関連する確率が出力される出力層の他に、いくつもの隠れ層が存在しています。隠れ層においてコンピューターは、画像内のすべての位置
