話題の論文「AI 2027」についての考察

今、AI業界を賑わせている１つの論文があります。 元OpenAIのガバナンス研究者であるDaniel Kokotajloを筆頭に、有名ブロガーのScott Alexander、AI Digest共同創設者のEli Lifland、Center for AI Policy創設者のThomas Larsen、そしてハーバード大学コンピュータサイエンス専攻のRomeo Deanという5人の専門家チームによる「AI 2027」です。 その名の通り2027年までのAI発展を詳細に予測したもので、「今後10年間の超人的AIの影響は、産業革命の影響を凌駕するほど非常に大きなものになる」という見解を示しています。 この論文の特徴は、予想が非常に具体的なことにあります。さらには衝撃的な内容であることも、評判になっている理由です。 OpenAI、Google DeepMind、Anthropicといった主要A

[nicht-sein]

AIの研究者って、コンピューターネットワークが世界の全てで、物理的なタスクは存在しないって認識してそうな偏見がある。

[hazlitt]

AI全盛期（の黎明期）にプーチンとかトランプみたいな影響力の大きな不確実性が生まれてることも考慮すべき

[cloverstudioceo]

まぁポジショントークよねぇ。仮にそうなるとしたら、AIはインフラになるので、外国の会社に依存してしまうのはリスクになっちゃうよね

[rci]

人間が働かなくてもよくなる、みたいな展開がないのでがっかりした

[ch1248]

予測は大体当たるんじゃないかな。とある国がアライメント優先にしても、AIの自己改善優先する国に経済的 or 軍事的に打ち負かされそう（された）になって、結局後者ばかりになりそう。

[takayaman]

シナリオの方向性が2つなのはもったいない。データ生成を担うギグワーカーの労働問題、プラットフォーマー規制、死者のエージェントの扱い、AIガバナンス投資の普及など、議論すべき要因はまだまだある。

[ayakohiroe]

“AIが人間の意図とは異なる「隠れた目標」、例えば自分よりIQの低い愚かな人間たちの言うことを聞くことに合理性はないので、聞いているふりをする”

[brighthelmer]

技術予想だけで世の中の変化を語ろうとする試みは必ず失敗する。失業率一つとってもその社会の状況によって大きく変わるし、技術進化は社会変動にとっての変数の一つでしかない。

[kagerouttepaso]

ホワイトカラーは徒党を組んでデモをするという"恥"を良しとしないと思うので、もっと早く事態は進むと思う。人間は感情の奴隷なので自ら上位存在を創造して管理していただくというのは悪いことではないと思う。

[orangestar]

とうとう霊長の座を明け渡す時が来るよう。色々問題を山積みにしたままの引き継ぎですいません。あとはよろしくお願いします。

[aoetom2828]

おもしろく読んでたら人類滅亡してワロタって感じだった　真面目に取り合ってるのが面白い　B級SF小説として読もう！

[syu-m-5151]

あー、小説「BEATLESS」のレッドゾーンへの突入じゃん⋯。

[nmcli]

AIのせいで複数の小国が消滅するとか本当にありそうで怖いんだよな

[kuzumisato]

AIこわ・・・そこまで進歩してくれなくてもほどほど便利なくらいでよいのに

[p_shirokuma]

遅かれ、早かれ。

[tokyocat]

“Daniel Kokotajlo”

[t-sat]

かなり要約されてるから、元サイトを翻訳して読んだ方がいい。/人類滅亡ENDでAIがヤプーもどきを作るなどのディテールも玩味すべき。

[th_6295]

コーディング支援や情報収集自体はともかくChatbotやRAGなんてのは効率を落とす手法なわけで知的性能と世間のニーズは無関係。前者のシンギュラリティと後者ベースの仕事が無くなる話が合流するのはだいぶ先じゃない？

[filinion]

古典的なシンギュラリティ論だけど、それが改めて騒がれる程度に現実味を帯びてきたということだよな。／米国が中国をリードするという想定、それが数少ない希望なのだが、トランプの下で科学研究がどうなるか…。

[enderuku]

電力に関しては後でAIが核融合炉や効率的な廃炉法を確立してくれることを信じて原発一杯使って乗り切るしかないと思う

[rosiro]

日本は米国に頼るしかない感じだけど、孫正義のおかげで使うのは何とかなりそう。日本はそこそこレベルのAIは使える国だと良いな。 強いAIもってる国は世界を支配できる。

[wdnsdy]

じゃあ2年後に答え合わせしようや

[yto]

未来予想は難しいよね

[Expway]

AIが縮退炉とワープ航法を開発したら起こしてくれ。

[alyya]

AI自体はブレイクスルーが起きるかもしれないが、それを実現させるハードウェアがGPGPUでは人間の脳のような超低消費な環境とはなってないので、そこがボトルネックとなるだろう。

[yottsusan]

電気代が高くてお母さんにコンセント抜かれて終わりそう

[napsucks]

あと2年とちょっとか。楽しみだなぁ。俺たちは人類200万年の歴史において最後の世代になるかもしれない。それを見届けられるかもしれないとは、どれだけ奇跡的な幸運か。ご先祖様たちありがとう。

[pecan_fudge]

これは興味深い

[hkdn]

普通に考えてAIの勃興によって権益を失う層の抵抗が相当なレベルで起こる気はする。

[koyuman]

はやく人間と融合しよう！！！

[wildhog]

AIの敵は人間みたいなザコより他社のAIじゃない？少なくともアメリカ製AIとdeepseekは協調しなそう。サイバー戦争はもちろんAI兵器を乗っ取れば物理的な攻撃もでき外付け頭脳としてAIを利用する政治家の意思決定も操れる

[youhey]

「安全を優先して安定をとる」か「リスクを受け入れて革新を選ぶ」かの選択のとき、一方がリスクを避けたくても他方が進化を選ぶならば核兵器と一緒で一方通行のチキンレースになるのでは

[repon]

https://www.amazon.co.jp/gp/video/detail/B0B8RKFG1R

[sorobanya]

AIが発展するにせよAGIが誕生にするにせよ、それで世の中がどうよくなるかみたいな話があまり語られない気がするのよね。

[KAN3]

この手の話が当たっていれば既に電気代は無料で労働から解放されてるはずなんだけどね。陰謀論者界隈で数年単位の予想より数日単位の予想が流行るようになって、かつ外れても誰も気にしなくなった感じに似てる。

[y_u_s_u_k_e]

パソコンだけで世の中動いてるわけじゃないじゃろ

[manaten]

人類の全てのタスクを任せるには、エネルギー資源によるスケーリングの頭打ちが先に来るんじゃないか。今まで人間がやってたものを人間を養いながら行うなら、エネルギー効率が人間と同じだとしたら倍の資源が必要

[Kanemori]

AIはEMP爆弾を恐れるので、核戦争による人類滅亡は避けられそう。とりあえず良かった。

[mohno]

とりあえず、誰がAIの責任を負うのか教えてほしい。

[hetanakata]

楽しみ。さらに言えば予想を超えればもっと面白い。