AI 2040: Plan A

Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt, Daniel Kokotajlo AI companies are racing to build AIs that are smarter than humans in every way. In AI 2027, we predicted that this would result in either extinction or irreversible concentration of power.1 Plan A is our positive vision for what should happen instead. In this scenario, humanity delays the development of sup

[muu2000]

英語読むために勉強してるのに、めんどくさいからこういうのもAIに投げて翻訳してしまう

[otihateten3510]

最近こういうの信用しなくなった。「このまま行ったら」がちゃんと実現した例は少ない。

[ufox]

「誰が最初に超知能を作るか」という競争を続けるのは危険すぎるので、国際的な合意のもとAI開発を透明化して緩やかに超知能へ進もうという話

[petite_blue]

AIが超知能化しても社会の成長スピードが遅過ぎるため、数十年は退屈な世界が続くだろう

[akahmys]

このとき人類はまだ気付いていなかった。このPlan Aこそが、AIが人類に仕掛けた恐ろしい計画の第一歩であることに…

[OkadaHiroshi]

このプランが妥当だとしても、現在の政治や経済の状況で実現可能だとは思えない。正直言ってプランDになると思う。

[atsushieno]

AI 2027と同じところが出している（著者も半分くらい同じ）ので、2025年に出たAI 2027が現時点でどんだけ当たったかを調べてみれば、信憑性はそれなりに推し量れるのでは

[avictors]

大衆は「支配欲」「暴力性」といった人の認知ラベルが人のローカルルールだと自覚しづらいんだろうね。AIの知性を人間という社会的な哺乳類のコピーのようにしか捉えられない人はASIのリスクの本質がわからない。

[Galaxy42]

攻殻のアニメ観よう

[kyahi227]

効いてる効いてるwwwww としか思えないんだが。この手の超人間的AIへの恐怖は単に唱えてる連中の暴力性の裏返しでしかない。無駄に暴力的だったり対人支配・被支配関係を前提とするようなAIを作らなければいいだけ。

[toaruR]

すでに持つ者と持たざる者の差を広げる要因は増えてる（´－｀）庶民でもそこそこ買えるから民主化されてる様にも見えるけど、AI資源競争は始まってる

[HiiragiJP]

今のままだとプランD。それだけ突きつけたのが前作AI2027なんだけど救いがないので、今ひとつ広がらなかった。先ずは希望を持つために理想のシナリオを書いてみたのだろう。ここから現実にする方法を考えよう

[pozzacat]

俺の寿命が尽きる前に銀髪ロリメイドアンドロイドを作れるようになって欲しい

[l_etranger]

予測ではなく提案メイン、と冒頭に。世界の選択とそれがもたらす結果の”例示”によって示唆を与えようというもの(当たり外れを問題にしていない)。一定の蓋然性のある事象の提示と行動提言、思考実験と物語の混合物

[napsucks]

なんというか、もうすでに人間を超えてるからなあ

[quwachy]

俺はプランBで行く

[nguyen-oi]

AIが人間を超える未来へのロードマップ。こういうシナリオ分析はSFのようで妙にリアルでゾクゾクする