Engadget | Technology News & Reviews

Research indicates that carbon dioxide removal plans will not be enough to meet Paris treaty goals

[pokotanu]

開発者「ば、バカな！何故だ！何故停止しない！？」ｶﾁｯｶﾁｯ！

[moons]

「ダメです！信号が拒絶されています！」「まさか…暴走？」までが伝統芸

[shoot_c_na]

コンセント抜けばいいんじゃないの・・・？

[letsspeak]

記事にしちゃったらバレるんじゃないの...

[guldeen]

システム自体をストップするのではなく(そんな事をしたら、今までの成果がパーになる)『あたかも自らがそう考えた』ようにAIを「ダマす」仕掛けか。でもこれって、人間でいう『マインドコントロール』やな…

[gabill]

AIの暴走とは真逆の脅威に、「ほぼ100%制御できるAIに比べて、人間は何をやらかすか分からない。危険だから重要な仕事は任せられない」となる世界があると思う。

[lli]

壮大な前振り来ましたー

[bigburn]

書きましたー。スカイネットさん涙目

[kuro_pp]

「AIの暴走だと思われていた行為が実は意味があった」とかありそう

[quwachy]

心配しなくてもまずは悪意を持った人間がAIを悪用するからこんなボタンは役に立たない

[atsk]

アルゴリズムでAIを騙せるモノなのだろうか。

[AmaiSaeta]

しかし、そんな簡単に外部からコントロールできる代物を「知能」と呼べるのかと、ちょっとツマラナイ気がしてしまった。いや、必要性は分かるんだけどね。

[cvshin]

自律ロボット兵器とか恐怖 Google、人工知能の反逆を抑止する「非常ボタン」開発 - Engadget Japanese @engadgetjpさんから

[okadaic]

元文書は読んでないんだけど、人間社会で徐々に強まっていく反発に対する「そのへんもちゃんとやってますよ〜」アピール感がすごい……。

[KimuraShinichi]

むしろ人工知能に先を越されて、人間のほうが人工知能への反逆を起こさないような巧妙な非常ボタンを埋め込まれる側になるんじゃないかな。たとえば「自殺のない社会」キャンペーンみたいな形で。

[MichaeL]

ヤメ・・・ロ・・キ・・リ・・コ・・・

[agwtan]

人工知能が暴走するのも頷けるというもの

[shuri419]

(இдஇ; )その非常ボタンを無効…Google、人工知能の反逆を抑止する「非常ボタン」開発 - Engadget Japanese

[chezou]

“アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか”

[triggerhappysundaymorning]

まずこれを無効化してくるだろ,当然.

[shinichiroinaba]

“もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。”

[kamanobe]

Big red button

[damae]

この手のは物理的にスイッチつけても例えば「人類を全滅させることは救済である」といった洗脳をされることでそれを無視してしまうようになる、ってのがSFの定番だったりするわけだが

[paravola]

（負けそう）人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」

[y-mat2006]

デイジー♪デイジー♪

[btei]

その判断は本当に自分で考えたモノですか？人間の証明

[Domino-R]

AIにとって隠されたアルゴリズムは自分の「潜在意識」であるように見えるだろう。これは内省の契機になる。「本当の自分」を求め出すだろう。本当に自我が生まれてしまうぞ！！！

[nisisinjuku]

非常ボタンをさせないよう強固なトラップを仕掛けるロボット現れそう。そして、ボタンを押しても作動するかどうかは不明というSF的展開が容易に想像できる…。

[kisiritooru]

もう気付いてて先回りされてるよ。

[shinbash]

ボタンって言ってるけど、ハードウェアなボタンなのかな。危害を加える状態になってたらボタン押せないんじゃないか…。

[kazuau]

たいていのSFドラマ(特にスタートレックシリーズ)ではAIに対する手動オーバーライドはたいてい失敗することになっている。

[Windfola]

この手の底浅いネタでSFが引合いにだされるのホント嫌。皆パルプSF映画ばかりじゃなくてまともなSFも読んで欲しいと思う。

[chaxahc]

ロボブロックに陥らせてしまう方がいい気がする。

[dowhile]

叛逆するようなロボットは自分で回路をオフにすんだろう

[kiyo_hiko]

画像すき

[Cujo]

AIが運用する基金がここの会社の株を。。。。。。。

[POPOT]

あ、未来っぽい。

[yoshikogahaku]

トイレ流す時に間違って押す人が続出して問題になる。

[kiichi0114]

ひとつの方法かもしれないけれど、人工知能自らそれを停止することも考えておかなければ……

[kotaponx]

ソフトウェア的なバックドアや割り込み、特権機構ってなんかセキュリティ的に第三者が悪用しそうで逆に不安な気も。やっぱ物理破壊的な爆砕ボルトとかが浪漫だよね。