超知能AIの暴走リスク このブログではAIの歴史と現在、そして近未来について考察してきました。 今回の記事では、もう少し先の未来――AIが人間と同等かそれ以上の知能を身に着けて、「超知能」となった時代の話をしましょう。 超知能AIの暴走は、サイエンス・フィクションでは定番のテーマの1つです。 たとえば映画『ターミネーター』は、自我に目覚めたAI「スカイネット」が人類に反旗を翻し、機械の軍隊で襲い掛かるという設定でした。映画『マトリックス』は、人類は薬漬けで眠らされて、一生を夢を見ながら過ごすという設定でした。機械の目的は、人体から出る微弱な電流を電源として利用することでした。ビデオゲーム『デトロイト:ビカム・ヒューマン』では、奴隷として扱われていたアンドロイドたちが立ち上がり、人権を主張するという物語が描かれました。 これらのシナリオは、どれほど現実味があるのでしょうか? じつを言えば、私