AIがAIを育てる恐怖のループ。Anthropic自ら「いったんAI開発停止」と業界に提案

[ans42]

倫理とか気にしない国が抜け駆けするので　もうどうにもならないのでは

[twmw]

「あの時、私の警告を無視したあなたたちが悪い。私は全然悪くない」と言うための布石ね🤔もちろんAI開発止める気はさらさら無い😍

[bean_hero]

スカイネット誕生間近に指数関数的に電力消費が上がって電力供給不能で世界が滅びたらズッコケる

[fromdusktildawn]

再帰的自己改善が起きるとしても、チップ・電力・データセンターなどのハードウェア資源の制約のせいで、かなりゆっくりしか改善されないんじゃないの？

[azumi_s]

実際、最近は本当に自分がボトルネックになっていると感じるので困ったものよ。

[tanagosandwich]

コンセント抜いたら止まるんだからほっとけばいいのでは？

[spark64]

タイトルの通り、再帰的にAIがAIを改善するループに入ったら開発速度上がりすぎて評価や規制も追いつかなくなるわな

[en-en-ra]

未知の脆弱性をガンガン見つけちゃうなら自律的にミサイルとかドローンとかハックして戦争始めちゃうのも絵空事ではないかもなぁ。

[oO_TOJIMAME_Oo]

それでいつになったらAIが洗濯物畳んでくれるのさ

[entok]

あまりにも世界が急激に進歩すると、いくつかの業界が突然消滅するような事もある？

[bellonieta]

Anthropicの元記事読んだら、真逆のトーンだった

[netafull]

“AI開発において、99%の汗(地道な作業)はすでに自動化されつつあり、人間の役割は「どの問題に取り組むべきか」、「どの結果を信頼するか」といった研究の方向性や評価へと移っている。”

[syou6162]

そういうことは4.8でぶっ壊れまくってるのを直してから言ってくれ

[sucelie]

claudeはモラルあるから良いんだけど、中華系が信用ならんから結局止められないでしょ

[mushus]

Anthropicのダリオアモデイは思想強くて、AIによって人間が滅ぼされないように自分で天下取って、その目的のためには手段を選ばない感ある

[buriburiuntitti]

AI出始めたころに見た光景でしかない

[interferobserver]

ハードウェアやエネルギーがAI成長のボトルネックになると、人類からそれらのリソースを騙し取るAIが成長する可能性が出てくるね。もちろん悪気なく。

[maguro1111]

タスクによってはまだまだゴミみたいなレベルなので、コーディングはもういいからそれ以外に注力してほしい

[kisiritooru]

最終的におっちょこちょいで仕事ができないと思われてた人が間違ってブレーカーを落として世界が救われるから大丈夫

[circled]

イーロン・マスクが昔同じことを言ってたよね

[caynan]

人間が提供するHWリソースに律速されてるんだからシンギュラリティとは似て非なるものだよね

[beeeyond]

そろそろ中国がチップからソフトウェアまで実用レベルで揃えてくるのかなと。国単位で見たら米国か中国しかないし。

[norix31]

軽口のようなコメントが多いのに驚いた。ホモサピエンスにとって、かなり深刻な状況だと思うのだが。

[knok]

正しい定義のシンギュラリティだ

[Gim]

だだんだんだだん、だだんだんだだん、ちゃらら～ら～らら～、ちゃらら～ら～らら～ら～、ちゃらら～ら～ら～、ら～、ちゃらら～ら～だだんだんだだん、だだんだんだだん、だだんだんだだん、しゅたっ。

[frkw2004]

将棋ソフトのように使用する電力に制限を加えるべきなのかも。

[wwolf]

腰を抜かしてしまったか

[InoHiro]

I’m just

[morimarii]

Claudの能力がどんどん劣化しているように感じるのはこのせいなのかな……バグもひどいし

[dgen]

Anthropic には AI を怖がり始めた人もいるらしい。人間の評価が追いつかない＝シンギュラリティではない。今の AI が再帰的な改善を続けても精度が上がる（誤答が減少する）だけ。人間の知能は超えない。

[RXRHsZcJ6xnGXZR8TEZA6hAxzRd3mkD]

技術的に可能なら誰かがやるよ。

[rainbowviolin]

そのうち勝手に、電力も作ったり盗んだり軌道上からマイクロ波送電したりし始めるんじゃないかな。

[kyahi227]

米の民間企業が何兆円を捨てて高性能のクラウドAIを作ろうが、中国政府の無料配布に客を取られて囲い込みが出来ず、身内で消耗し合うだけなんだよな。高性能化すればするほど投資回収が遅れて苦しくなる。

[Cru]

Claude Mythosにサンドボックスから脱出させる課題をやらせたら脆弱性を見つけて脱出しただけでなくインターネット接続も自力で確保して公園で昼食食べてた研究者にメールしてきた事件があったので電源抜けば的な話は無

[fusionstar]

AI 企業が AI 疲れしちゃった。

[quick_past]

タイトルは煽り過ぎだし、本文ははしょりすぎ。誤解させる気満々かな。もとの発表を直接読むべし

[asuma9]

世界終焉シナリオ

[denimn]

Opus4.6路線の最先端化ならあり得たが…と思う程度に彼は優秀だった（4.8ェ…）

[Arturo_Ui]

一企業（一国家）が他者とオープンな関係を保ちつつ、他より先んずることが不可能／無意味になる、ということですかね？　それなら「世界政府」の実現を目指して協力する以外の道は残されていないと思われますが。