機械学習のAIシステムは多くの場合、どのような判断に基づいて結論を導き出したのかを説明できない。信頼のおけないテクノロジーを、医学や金融、軍事などの重要な分野に適用してよいのだろうか。 by Will Knight2017.06.29 102 24 10 0 半導体チップ・メーカーのエヌビディア(Nvidia)は、どのような仕組みで動いているのかがわかる自動運転の人工知能(AI)システムを開発している。 最近のカバーストーリー、「人類に残された、AIを信用しない、使わない、という選択肢」で説明したように、最も強力な機械学習手法で作られたソフトウェアは、多くの場合、なぜそう判断したのかを本質的に説明できず、開発したエンジニア自身にさえもわからない。AIは今後、医学から製造業にいたるまであらゆる分野に革命的な変化をもたらす可能性のあるテクノロジーだ。AIがどのような仕組みで動いているのかを調べ
![エヌビディア、「説明できるAI」へ向けた一歩を踏み出す](https://cdn-ak-scissors.b.st-hatena.com/image/square/2e19da5224e9557f696fbd1e821358e823c67df1/height=288;version=1;width=512/https%3A%2F%2Fcdn.technologyreview.jp%2Fwp-content%2Fuploads%2Fsites%2F2%2F2017%2F05%2F04015615%2Fai-car-vision-cropped.jpg)