“AIが逃げられないケージ”を作るために人間は何ができるか 大惨事を避ける上で正しく実現しなければいけない2つの課題

モントリオール大学コンピューターサイエンス学部教授のヨシュア・ベンジオ（Yoshua Bengio）氏は、人間がAIの特性を理解する重要性から、AIによる大惨事を避けるために解決しなければいけない課題と、課題解消のための取り組みについて話しました。全3回。前回の記事はこちら。 人間の考え方に完全一致したAIシステムの構築方法はわかっていない ヨシュア・ベンジオ氏：では、アライメントという概念について紹介したいと思います。いろいろな人間がいて、みんなが一致しているわけではない。アライメントが取れているわけではありません。私たちが求めるものはそれぞれ違っているし、何が良いものなのか、善悪の判断も少し違うかもしれません。善悪の判断はおおむね一致していると思いますが、完全に一致しているわけではありません。 人間（の考え方）に完全一致したAIシステムを構築するにはどうすればいいのかわかっていません。