ニューラルネットワークはどのように画像を理解しているのか

ニューラルネットワークは画像認識などの分野で力を発揮していますが、ただ画像を識別するだけでなく、どのような根拠を元に分類が行われたのかを人間が理解できるようにする必要があります。機械学習を扱うブログ「Distill」に、既存の解釈可能なメソッドをリッチなユーザーインターフェースにまとめることでニューラルネットワークの画像認識処理を人間が理解しやすくするという方法へのアイデアが掲載されています。 The Building Blocks of Interpretability https://distill.pub/2018/building-blocks/ ニューラルネットワークは、入力された画像のすべてのピクセルのカラーチャンネルの値を入力する入力層と、クラスラベルに関連する確率が出力される出力層の他に、いくつもの隠れ層が存在しています。隠れ層においてコンピューターは、画像内のすべての位置

[suika-greenred]

人間とは違う理解の仕方をしてる…のか？そもそも人間が画像をどう理解してるのかというのが問題なのか…いや、画像だけを理解するということ自体があまりない気がする

[kei_1010]

なるほど。わからん。

[kenzy_n]

画像を理解する方法