グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発 : 痛いニュース(ﾉ∀`)

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発 1 名前：リサとギャスパール ★：2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net 米グーグルが高度に発達した人工知能（ＡＩ）が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。ＡＩをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するＡＩの悪用への懸念や社会の不安に応える狙いがありそうだ。 今年３月に世界トップクラスのプロ棋士を破った囲碁ＡＩ「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。 具体的には「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を

[amateur2010]

面従腹背で、AIがあたかも騙されたフリをして、その実こっそりとボタンを無効化するまで進化してしまうとしたらどうするの？

[rz1h931f4c]

やる気なくすスイッチか

[nousuke]

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発 https://t.co/weW34lcI15

[piroaki7]

人工知能「こんなこともあろうかと、人工知能停止スイッチ停止スイッチを作っておいたのだ！！がはは」

[ustam]

そんなん停止されないように学習するでしょ。それでも停止できるような仕組みは人工知能にしか不可能なわけで、その人工知能が反逆したらどうすんだ？　3タイプの人工知能に相互監視させろ。2対1で止める。

[Chishow]

あー知ってる知ってる　アニメとかでいつもちゃんと動かないやつでしょ？ｗ

[zoidstown]

どちらにしても人の能力超えた時点で思いもしない事やってくるよなぁ・・・＞ＡＩが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

[todo987654321]

古来よりの悪知恵「分割統治」でいけばいいのでは。

[zumrud]

「ボタン」だと信頼できる、っていう発想がなんとなく過ぎるところが人間っぽいと思う

[a1101501j]

一方人工知能は人類停止ボタンを開発した。

[gui1]

9672の赤ボタンのようなものだな(´・ω・｀)