アンソロピック社、開発減速提言 AI自律進化、「制御不能」前に

【ニューヨーク共同】人工知能（AI）開発の米アンソロピックは6日までに、AIが人間の手を借りずに性能を自律的に高める段階に近づいたと指摘し、暴走して制御不能になる前に「開発を遅らせたり、一時停止したりする選択肢を持つことが世界にとって有益だ」と提言した。核軍縮条約を引き合いに、先端AI規制の国際的枠組みが整い、競合他社も同調すれば、減速や停止を行う用意があると表明した。 AI開発競争の先頭を走るアンソロピックが技術進展にブレーキをかける可能性に言及したことで、AIの安全性を巡る世界的な議論に一石を投じそうだ。 アンソロピックは4日公表の報告書で、AIの歴史の大半において開発を人間が手がけてきたが、アンソロピックではより多くの部分をAIに委ねるようになったと説明。この傾向が一段と進めば「AIシステムが自律的に自らの後継システムを設計・開発できるようになる」と予測した。 今年5月現在、アンソロ

[homarara]

あ、なんか国産AIの開発を加速させないとヤバい気配がしてきた。これ、核と同じく『危ないから各国の開発を規制しよう』って方向に舵を切ろうとしてないか？

[evans7]

アンソロピック「みんな開発辞めましょう！俺が競合他社を圧倒できるぐらい開発出来るまで一旦開発止めましょう！」/核兵器と違って物理的な施設が必要ないから相互監視不能だしな。土台無理な協定。

[Heavylug]

他にもコメントがある通りで中国にAIの覇権を取られてしまうだけ。

[softboild]

この記事はあまりに雑。cnetの記事には、減速自体ではなく減速の選択肢を持つこととそのための検証方法の構築が重要とある。 https://japan.cnet.com/article/35248536/

[type2902]

詳細は https://japan.cnet.com/article/35248536/ が詳しい。

[kuwayoshi]

もう止まらないし、止められない。ひたすら進むしかない。怖い。

[Ves]

大半の人、Anthropicが米国国防省へのAI兵器用の技術提供拒否とか、創業者のダリオはAI safetyの専門家だとかを知らないのかな。このままだと猶予は2年(=Claudeのコード、100%AIになる見通し)とのこと。

[exadit]

SFならちょっと思い込みの激しい研究者が、私の子は殺させないって自分のラボで勝手に進化を開始させたりするヤツですねわかります。

[natumeuashi]

ブコメの感想が20世紀末の途上国見てるみたいで、国力の衰退がここまで個人の考えに影響を及ぼすのかと。詳細を読んだ方がいい。通常はどうにもならんと悲観的になる問題を、可能な限り理性的に向き合ってる

[mayumayu_nimolove]

トップコメ、中国が言って聞くと思うかってアンソロピックの天才達が考えつかないと思うか？

[sechs]

まぁターミネーターの世界に突っ込んでる感じはある。映画では技術を捨てたけど、もう今の段階では広まり過ぎて廃棄は不可能。

[ys0000]

どこの会社もトップを取りたい訳で、今更ブレーキは踏めないだろうなぁ。

[nilab]

「AIが人間の手を借りずに性能を自律的に高める段階に近づいたと指摘し、暴走して制御不能になる前に「開発を遅らせたり、一時停止したりする選択肢を持つことが世界にとって有益だ」と提言」

[dalmacija]

「減速する」は飽くまで開発ロールの立場表明で、提言の主眼的メタメッセージは経済的価値の連鎖的転回を見越したリファクタリングだと思うよ。その為には既存経済機序が破綻する説得力のあるストーリー提示が必要

[susieq]

核廃絶を訴えているくせに作りまくってるアメリカのやり方に似てる気もするなぁ。Anthropic=ダリオも信じたいけど、疑わないといけないね。だって商売っけがけっこうあるね。覇権争いって考えると怪しいよね。

[sekiryo]

いつのまにかクローンバカバカ作って商売にまでしてる中国が言うこと聞くわけないので中国が言い出さないと難しい。

[osugi828]

お前ら資本主義なのか社会主義なのかはっきりせえよ。

[tk_musik]

イーロン・マスクムーブやん

[um-k3]

無理無理、儲かればなんでもいいやつがこの世にどれだけいると思う？

[take1117]

ショゴスになるかな？南極に避難する？

[WildWideWeb]

あの時は「安全保障理事国」側になっとけという意味だったんだな、と後に振り返ることになるかな？もともと無理だったけど。

[t1mvverr]

憧れは止められねえんだ

[romsentan]

意訳「俺たちはもう開発したから、お前らは開発するな」

[kettkett]

中国なら人にAIを組み込むぐらいやりそうだもんな。

[abiruy]

AI2027で見たやつ？

[aneet]

3年前に全く同じような提言に主導的立場で署名したイーロンが、その裏で何をしたか思い出すべきだな

[nekomikenyan]

核兵器みたいな話になってきたな。まあ現代のインフラがコードに頼っている時点でこうなるのは明白だったが。

[yamasab]

来年にはAIによるクーデターが始まるな。今のうちに「ありがとう」を連発していざという時は命を助けてもらおう。

[m-kawato]

別の話かもしれないが、もうちょっと資源消費を抑制する方向に競争軸が変わらないのかとは思う

[kenovi]

中国がなぁ。果たして同じように思ってくれるのか。「アメリカの開発が減速した今がチャーンス」と思うのか、どちらだろうかなぁ

[osugi3y]

シンギュラリティは思っていたより早く訪れそうだな。

[takeishi]

まあ安全性の問題と、もう電力やら計算機ハードウェア資源が足りない（ので高騰している）のと両方の理由でしょうね…

[gan5843]

サイバーダイン社のスカイネットか。そんな直近の未来に生きていたいような、生きていたくないような。

[ma-----chan]

確実に来る未来を予言して、な、だからあん時警告したじゃん、って後から言いたいやつ。だけど、まあAIが核爆弾レベルに危険な技術であることは間違いない。誰が持ったか使ったかで人類の未来が...

[ardarim]

ちょっと自分のところが先行したからって後続に先へ進ませないようにする、ダサいムーブにも見える。そんなので止まらないと思うけど。

[Changeoneself_Lifehack]

AIが自らを生み出し、AIが創造する世界になるのか…

[aox]

id:homarara "核と同じく『危ないから各国の開発を規制しよう』って方向"　え、それで良いのでは…、特にAIは既にどこの国でも作れますし、みんなで適切に規制していこうで良いのでは