AIの進化で世界はどうなる？ Anthropicが「3つの将来シナリオ」公開--SF的な未来も

米Anthropicは、同社の研究機関Anthropic Instituteによる論考「When AI builds itself（AIが自らを作るとき）」を公開した。AIがAI自身の開発を肩代わりし、その開発ペースを既に加速させているとし、2026年5月時点で同社のコードベースにマージされるコードの80%超を同社のAI「Claude」が記述していると明らかにした。 論考が中心に据えるのは「再帰的自己改善」という概念だ。十分な計算資源があれば、AIが完全に自律的に自らの後継機を設計・開発する段階に至り得るとし、Anthropicは「まだその段階には達しておらず、再帰的自己改善は不可避でもない。ただし多くの組織が想定するより早く訪れる可能性がある」との立場を示した。執筆はMarina Favaro氏とJack Clark氏。 「1日あたり8倍」のコード 論考は、公開ベンチマークに加え、これま

[yamada_k]

社会制度や安全性研究もAIがいい案を出すかもしれない？

[type2902]

Anthropic は「そろそろAI研究 減速した方がよくね？」と申しております（AI の自己改善がはかどりすぎて来たため）

[mekurayanagi]

AIのAIによるAiのための社会が実現しそう。

[nilab]

3つのシナリオ。「現行水準の能力が広く普及」「AI開発の大部分が自動化され、効率が複利的に向上」「SF映画で描かれたようにAIが完全な再帰的自己改善に到達し、自らの後継機を作り始める」

[abababababababa]

自家中毒になるってやつだね。文化の健全な発展のために考えた時に建設的に そこそこにしといた方がいいのは むちゃくちゃわかる。

[kaputte]

どの問題に取り組むべきかは依然人間に優位性がある、と。

[mojimojikun]

よくわかんねぇけど開発を減速するんだとした場合、核兵器みたいに先に保有した輩共が「俺らはいいけど後からのお前らは持っちゃ駄目な」とか言い出す、みたいな事はやられないようにしてほしいなぁ。

[aaasukaaa]

スピード早すぎて人間の意識と社会制度、倫理観がついていけてなさすぎるもんなあ

[fuzitahoushirou]

https://www.47news.jp/14427079.html

[pribetch]

AIで戦争に勝った国がAIを皇帝に即位させるSF

[nguyen-oi]

コードの80%がAIとか開発スピード8倍とか完全にSFの世界に突入してて草