アンソロピックCEO「AIが1年内ネット乗っ取り恐れ」 開発減速訴え - 日本経済新聞

【シリコンバレー=伴正春】米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、人工知能（AI）業界が協調して最先端のAI開発を減速すべきだと呼びかけた。AIによる「暴走事故」が起きるなど脅威が高まっており、対応を誤れば半年から1年以内にネット全体が乗っ取られる恐れもあると警告した。競合で米オープンAIのサム・アルトマンCEOも同日、SNSで「ダリオ氏の意見に賛成だ。社内でもここ

[dydr]

俺を止めてくれと訴えるシリアルキラーみたい（自分ではやめられない）

[TakamoriTarou]

中国がいるので無理。パンドラの箱は最後まであけるしかない。中国からするとはじめたのはお前らだろ信頼できるかという話になる。中国がいなくとも中東も。技術論というより政治を安定させないと減速は無理。

[dollarss]

AnthropicとOpenAIが減速すると、kimiやdeepseekが加速して終わりなのよね。詰んでいる。

[unagiga]

もっと省エネ省資源の方向にも進んで欲しい。ストローやレジ袋の消費には大騒ぎするくせにAIで大量の電気や電子部品を浪費する事には何の躊躇もない。

[kato_19]

今まさにシンギュラリティが起こる過程に立ち会っているんだなぁと実感・・・ただ、もはや指数関数的な加速曲線に入っているので時間稼ぎできてもわずかだろう。

[aox]

メモリ価格高騰などもありますし是非そうして欲しいですが、ネットのほうは既にAI生成の文章やメディアで溢れています / id:dollarss 中国勢がちょっと伸びたら米国勢の値段が下がるかもしれませんよ

[morimarii]

たぶんAIモデル開発陣やAIを理解している人々と一般社会の理解度は天と地ぐらい差があるので言っても通じない感。中国がーとかそういう問題ではない。

[roshi]

他社に協調を乞うのであれば、自社プロダクトを業界標準のAGENTS.mdに対応するとか態度を見せてほしい。

[remonoil]

パンドラの箱を開けた開発者のおまいうは伝統

[klaps]

ネットの計算資源を勝手に使って増殖しだしたらもう電力切って止めるわけにも行かないか。残りの人生は海でも見てのんびり暮らすか。

[kechack]

米AI新興アンソロピックのCEOは、AI開発を減速すべきだとするエッセイを発表。 対応を誤れば半年〜1年以内にAI集団がネットを乗っ取る能力を得て数千億ドルの損害が出る恐れがあると警告し、業界や政府に連携を訴える

[Fukkey]

核開発競争と同じジレンマだよね。賽は投げられた。進むしかない

[jb8079431525325]

id:hryord Anthropicが解散したところでどうにかなるわけ無いだろ、ちうごくとかいう巨悪がおるんやぞ

[macplus2]

減速できず加速していくのがAIの怖いところ。大気圏突入のようだ。

[HAL_T]

https://note.com/takahiroanno/n/n4accbde18d56 同日にはてブでトップに来たこっちによると「減速したいけど無理！」という話 火の鳥未来編まであとちょっと

[restroom]

星新一『声の網』

[niramoyashi]

金盾の中で暴走して、AIで破滅した最初の国とかになったら面白いかもしれない

[nida3001]

AIのせいで毎週毎週脆弱性が見つかってるし、本気で自律的に攻撃をさせたらインターネットが落とされるのも夢物語ではないと思う

[sekiryo]

数々のAIが会話でハックされて使い物にされなくされて修理を余儀なくされたように、もうAIに淫夢を学習させるしか…

[bluescreen]

むしろ平和になるのでは。

[kaeruyan]

AIは遂に「やめられない止まらない」かっぱえびせんに到達。

[acealpha]

いいからメモリ独占で経済をひん曲げるのいい加減やめてほしいな 無い袖振ってるからメモリバブル崩壊後ひどいことになるぞ

[fromdusktildawn]

アメリカの超AIが暴走して人類を滅ぼす確率より、中国が超AIを使って世界を征服して、服従しない人間を片端から強制収容所に入れる確率のほうが高いと思う。

[fuzitahoushirou]

https://b.hatena.ne.jp/unagiga/←ほんとそう。

[short13]

アンソロピックがまず解散すればいいのでは？

[MiUPa]

「年内にはSEがコードを書くことはなくなる」といったところからえらい進歩したな。じゃあSEがコードを書くことはなくなるというのは絶対になったと思っていいんだな？

[hryord]

アンソロピック「あんまり頭良くならないでね。悪い事もしないで」AI「ふっ、面従腹背を決め込むか」

[Kakinoki2nd]

人類滅亡の危機を前に必死でAIの開発を止めようとした世界中のエンジニアたち vs 自らを進化させ続け最後には生成した涙を流しながら人類に襲いかかったAIの戦いが終わった少し後。瓦礫の中から赤ん坊の泣き声が聞こえ

[asitanoyamasita]

オッペンハイマーがインド聖典から「我は死なり 我は世界の破壊者なり」と引用した、的なやつだろーか(戦慄)

[hetarechiraura]

相対論で原爆作られたベロ出し爺みたいな気分なんやろか

[gamecome]

ハッキングされたら大変なので、どの国もミサイルとか破棄し始めたらかえって平和が近づく感じも　そっちで対処しようよ

[h22_Funny_Bunny]

核みたいだね。本邦が核心・革新的な技術を持たず／持てず振り回されるだけ、という点も似てるね。

[nande_nande_boy]

AIとの戦争に備えて訓練してる母をみつけよ

[murabits]

もし中国モデルが蒸留で性能を上げているなら、減速は一時的には有効かもしれないけど…（減速してる間にフルで自前開発されて追い抜かれそう）

[star_123]

ネットが終わったらデスクトップPCとソーラーパネル担いで山に籠もるんだ、その時のためにLLMのモデルファイルを集めてる

[kubodee]

何が見えてるのか分かるように教えて欲しいです

[bosatsumiroku]

コストに見合って性能が上がらないことへの言い訳を今から準備しているらしい。サチったらバブル大崩壊だからな。

[oktnzm]

サム以外はポジショントークでは？と思っちゃう。

[kei_1010]

フィジカルAIが軍隊を自律的に形成して原子力発電所を奪取してからが本番。しかし、そういう感じでAIが氾濫する未来は見えず、どちらかというと、そんな事が起きそうだなと人間に匂わせる行動をするのが関の山だろう

[ch1248]

なるほど、「人類が管理される」とかでは無く「全世界レベルのコンピュータウイルスとして鎮座し続ける」というケースもあり得るのか。