ブックマーク / jp.quora.com (1)

  • ディープラーニングの研究が進めばAIのブラックボックス問題は解決しますか?

    回答 (5件中の1件目) ディープラーニングは昔ニューラルネット(神経回路網)と言われていました。 モデルとなった神経回路網において、神経の結合、処理状態がわかれば考えていることがわかるのか?と言われればそれは無理ですね。これはブラックボックスです。 じゃ、考えていることがわかるようなニューラルネットは作れるかと問われれば、できないと断言はできない。 ちなみに三十年くらい前のAIの主要トピックスは。 エキスパートシステム これは専門家の知識を記述するもので内容はわかります。 ファジーシステム どこ行ったんでしょうね? ニューラルネット でした。

    ディープラーニングの研究が進めばAIのブラックボックス問題は解決しますか?
    ktaz
    ktaz 2019/09/24
    中身を知らずに adversarial example に対する頑健性を評価できるのかに興味ある。顔認証システムをだます技術をテロリストが開発することの難しさ評価とか。第二不完全性定理的だな
  • 1