ディープラーニングの判断根拠を理解する手法 - Qiita

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? ディープラーニングは特定分野で非常に高い精度が出せることもあり、その応用範囲はどんどん広がっています。 しかし、そんなディープラーニングにも弱点はあります。その中でも大きい問題点が、「何を根拠に判断しているかよくわからない」ということです。 ディープラーニングは、学習の過程でデータ内の特徴それ自体を学習するのが得意という特性があります。これにより「人が特徴を抽出する必要がない」と言われたりもしますが、逆に言えばどんな特徴を抽出するかはネットワーク任せということです。抽出された特徴はその名の通りディープなネットワークの中の重みに潜在してお

[kotobukitaisha]

DLを実装したAIを社会に導入する上で、判断根拠ってめちゃくちゃ重要だと思う。これがわからないと「神のお告げ」と変わらなくなる。

[otihateten3510]

DL「全然わからない。俺は雰囲気で猫を判別している」　そしてよく当たる

[lbtmplz]

職人に根拠を聞いた時の感じを想像した(あまり理解出来てない

[mkataigi]

説明できるかって今後のAIの発展で本当に重要で、AIに言われたことをこなすだけの世界になるか、AIと話して協議して相互発展的な世界になれるのか

[vanbraam]

サーベイ論文だ;この記事と比べると,b:id:entry:343897888の頭の悪さが際立つな;Neural networkの判断根拠を解き明かそうという研究は昔からあると思うが,ここで書かれている手法はdeep learning固有の手法なのだろうか?

[SWIMATH2]

「最先端の人工知能が判断した『最も人らしい人』の顔が怖いと話題に」と言われそうな画像だ

[hihi01]

これは大事。これからは、人工知能にいかに正解を出させるかよりも、どうやったら人間と同じ間違いをするか、どう言う時に間違えやすいかの研究が大事になる。 http://hpo.hatenablog.com/entry/2017/01/30/220000

[carrier_pigeon]

ノイズでAIに誤認させるのは面白いな。SFの世界だ。

[z1h4784]

こんなの無料で読んじゃっていいのかな。お金取っていいのよ？

[jitojito]

0.01mm誤差を手で触れてわかる職人さんに、なんで分かるんですかと質問しても、わかるからわかるとしか返ってこない。

[akarikawai]

あとで読む

[natsutan]

見逃していた。すごい

[iboggy]

次の論文のためにもしっかり読んでみる。

[hsato2011]

ディープラーニングの判断基準

[otiai10]

読みやすく、読み応えもあるし、すごくおもしろい話題。

[mh615033891]

#memo

[efcl]

機械学習などで学習した結果がブラックボックスになる問題に対して、学習されたネットワークの説明に対するアプローチについて

[masterq]

"「説明」を行う手法はより重要になってくると思います"

[ka-ka_xyz]

こういうの読みたかったのだ。メモメモ

[taichitary]

わかりやすい

[tmatsuu]

めっちゃおもろい。グッときた。後半だんだん分からなくなったけども。

[lanius]

解釈性。

[t_f_m]

あとで

[sho]

こっち方面の研究がだいぶ進んでいるのは聞いていたので、まとめはありがたい(けどぜんぜん理解できない)

[TakayukiN627]

これはAdversarial Attackとも言われていて、入力画像に一目ではわからない微細なノイズを乗せることで認識結果を誤認させることができるというものです。

[moccos_info]

よくわからんけど結果出ました、は人間の判断プロセスが後ろに入るケースではだめなんだよなあ。AIは責任を取れないのでなおさら。

[Cujo]

AIの研究がある程度進んだら次にリソースをつぎ込むべきなのはこの分野じゃないのかな（その前にAIにそんな無駄なリソースはないので「人類は不要」と判断されてたりして。。。。。。。。

[eerga]

斜め読みしかしていないけど「AlphaGoがもし高い説明力を持っていれば」という一文が分からない。説明される側に説明力を付けるの？囲碁の盤面の中でも特に影響を与える場所を抽出できれば～みたいな話？？？

[quwachy]

医者になんでそう思うのか聞いてみな、もし間違ってたら全財産かけるかも医者の誤診率は30%くらい、ほとんど根拠なんてなしになんとなくで診断してる

[n_231]

アホな人間に理解させるのは大変。シンギュラリティの到来が（人・機械両陣営から）待たれるというものだ。

[mskn]

理解したい。

[tgk]

adversarial attack

[sulgraphica]

ディープラーニング

[takumikabu]

大作だ

[sds-page]

名プレーヤーが必ずしも名監督になれない的な

[deep_one]

（まだ読めてない）ディープラーニングの本を読んでもこの辺が全く書いてなくて一体どうするんだと思ったのだが、方法論が無くはないのか。／「最も人と判定されるデータを合成したもの」それ、オカルト雑誌で見た。

[stepon]

あとで読むには長すぎる

[hiddy216]

説明できたらすごいな、これは

[sawasawa12]

確かに、根拠が分かんないとビジネスには使えないよね