ニューラルネットワークはどのように画像を理解しているのか
ニューラルネットワークは画像認識などの分野で力を発揮していますが、ただ画像を識別するだけでなく、どのような根拠を元に分類が行われたのかを人間が理解できるようにする必要があります。機械学習を扱うブログ「Distill」に、既存の解釈可能なメソッドをリッチなユーザーインターフェースにまとめることでニューラルネットワークの画像認識処理を人間が理解しやすくするという方法へのアイデアが掲載されています。 The Building Blocks of Interpretability https://distill.pub/2018/building-blocks/ ニューラルネットワークは、入力された画像のすべてのピクセルのカラーチャンネルの値を入力する入力層と、クラスラベルに関連する確率が出力される出力層の他に、いくつもの隠れ層が存在しています。隠れ層においてコンピューターは、画像内のすべての位置
The Building Blocks of Interpretability
Interpretability techniques are normally studied in isolation. We explore the powerful interfaces that arise when you combine them — and the rich structure of this combinatorial space. With the growing success of neural networks, there is a corresponding need to be able to explain their decisions — including building confidence about how they will behave in the real-world, detecting model bias, an
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
