by włodi 「100年以内に人工知能(AI)は人間を超える」と考えている研究者は多く、人工知能の危険性が主張されることも多くなってきました。Googleがオックスフォード大学のFuture of Humanity Instituteと提携してAIの潜在的な危険性について研究している中、Future of Humanity InstituteとGoogleの人工知能開発企業・DeepMindは新たな論文で「人間の手によってAIを停止させる仕組み」の必要性を主張しています。 Safely Interruptible Agents (PDFファイル)http://intelligence.org/files/Interruptibility.pdf DeepMind develops 'big red button' to stop dangerous AIs causing harm -
![Googleの人工知能「AlphaGo」を作ったDeepMindがAIの暴走を止める「緊急停止ボタン」の仕組みを開発](https://cdn-ak-scissors.b.st-hatena.com/image/square/23c0d50973eb9971b1b80272f48bc06b60b85fb0/height=288;version=1;width=512/https%3A%2F%2Fi.gzn.jp%2Fimg%2F2016%2F06%2F06%2Fbig-red-button-stop-ai%2F00.jpg)