「説明可能なAI」はなぜ透明性を高めるだけではダメなのか？

深層学習の人工知能（AI）システムがさまざまな分野で使われるようになるにつれ、ブラックボックス批判が高まっている。だが、AIをただ「説明可能」にするだけでは不十分だ。 by Douglas Heaven2020.02.05 44 88 7 18 ウポル・エーサンが以前、ウーバーの自動運転自動車に試乗した時のことだ。運転席に誰もいないことが不安な乗客は、自動運転自動車の視点を可視化した画面を見て「心を落ち着かせるように」と勧められた。画面には、車が危険と判断した道路上の物体がオレンジと赤で、安全ゾーンはクールなブルーで表示されていた。 この記事はマガジン「AI Issue」に収録されています。 マガジンの紹介 アトランタにあるジョージア工科大学で人間と人工知能（AI）の対話について研究しているエーサンには、その画面の意図は明らかだった。「安心してください。画面表示を見れば車の運転操作の根拠が

[itarumurayama]

ＡＩが黒人をゴリラと判定する問題、これＡＩに説明責任持たせたら、「いかに、黒人がゴリラと似ているか？」を滔々とＡＩがトークするディストピアになる

[tanayuki00]

人間が高速でゲームをしているときは動作をいちいち言語化しないが、人に聞かれると後付けの説明はできる。求められているのは後付けの説明で、すべての選択を可視化するとそれを理解するだけで人間側がパンクする。