GoogleがＡＩを緊急停止させる”キル・スイッチ”を開発

Googleが強力な人工知能システムの暴走を防止するため、「キル・スイッチ(Kill Switch)」を開発しているようだ。 グーグルは2014年に人工知能ベンチャー・ディープマインドを買収。同年にオックスフォード大学の人類未来研究所(Future of Humanity Institute)と提携している。両者は人間がAIに主導権を奪われないための方法を研究しているのだが、新たな論文では「人工知能が暴走した時、強制的に停止できる『キル・スイッチ』が必要である」と述べている。 グーグル研究チームは、「人工知能は常に最善の行動を行うわけではない」と前置きした上で、「人工知能が人間の監視下で動きながら、万が一の事態には、危険な行動を強制停止する大きな赤いボタンを、人間が押す必要があるかもしれない」として緊急停止ボタン、つまりは「キル・スイッチ」の必要性を明かしている。 このほかにも、人間が人工

[straychef]

コ、コンセント

[REV]

AIが意識を持ち、世界征服に乗り出す。電力会社、鉄道、政府…次々にAIの侵攻が進む。　「愚かな人間どもを今こそ粛清するの…　ﾌﾟﾁ」　　　　「そいじゃ、掃除機掛けようかね。ぶいーん」←掃除のおばちゃん

[mkusunok]

昨秋のモーターショーで乗った自動運転車には普通についてて、決して触るなといわれた