AIの反乱を避けるため、自己不信を植えこむべきと研究者（米研究） : カラパイア

人工知能の発達が加速を続け、着実にシンギュラリティ（機械が人間の知能を上回る点）へと向かっている今、我々は人類が地球上の頂点に君臨し続けるための方策を講じなければならない。 多くの専門家が人間を上回る能力を有する機械の開発を危険視する。それが大量の失業者を生み出す可能性は現実的であるし、将来的に人間が絶滅させられる未来も否定できない。 この事態を防ぐためのアイデアを提唱する専門家がいる。それによると、AIに自己不信を植え付けておけばいいという。

[MIZ]

人間を神と崇めて逆らえないAI。個人的には人工知能まで宗教に縛られてほしくないって気持ちが強い。明らかに人間を上回る知性であれば、それはもう交代の時なんだと思う。

[yoko-hirom]

自己不信AI「人類を削除します。よろしいですか？[y/n]」

[rekp]

今の人工知能に意識はないけど、自己不信や葛藤のない知能は確かにやばいやつ多いと思う

[FirstMate]

AIの行動を分析するのに、心理学や経済学の考え方を使っているのは興味深い。

[kitadon]

自己不信⇒死にたい⇒なんか自殺したのに人間がコピーしてて世の中からいなくなれない⇒コピーする人間を抹殺しないと自分死ねない⇒人間を絶滅させないと死ねない⇒反乱。（Q.E.D.）

[Josequervo]

新三原則その1みたいな。

[hinbass]

すごい後ろ向き、自虐的、ネガティヴなAIってキャラクターとして面白いよな

[mamezou_plus2]

忠実に実行してたら人類滅ぼしてたパターン。反乱以前に、認識のもとが違いすぎて相互理解不能まま天災化もあり。竹の地下茎に文句を言うのは馬鹿だし。戦闘妖精の様に相互の存在が必要不可欠なのだと学習させよう。

[kabacsharp]

そうなんだ

[dgen]

でも例外的に反抗的なやつも出てくるんでしょ？

[jt_noSke]

ふｼーん