オンライン決済サービス企業PayPalの創業者であり、現在はロケット打ち上げ会社SpaceXや電気自動車メーカーTeslaで最高経営責任者(CEO)を務めるイーロン・マスク氏は2017年夏、全米知事協会の会合で講演し、「人工知能(AI)が人類文明の存在を根本から脅かす」と語った。同様の警告は悲観論者もしばらく前から発していたが、マスク氏ほど鮮やかかつ具体的に問題を指摘した人は初めてである。マスク氏は、映画「ターミネーター」で描かれた、世界を支配するシステム「スカイネット」のような悪意を抱くコンピュータが出現する未来を、単純に心配しているわけでない。Vanity Fairの4月付け記事によると、マスク氏は“イチゴ摘みを任されたAI”という例で問題点を説明していた。イチゴ摘みAIなど無害に思えるが、自ら変化して効率向上を目指すAIの場合、収穫を最大化する最善策は文明を完全に破壊して地球全体をイ