アンソロピック、AI開発の「減速」を提言

[phain]

「みんなが止まるなら止める」は、実質的に「止まらない」と同義。

[ustam]

AnthropicはそもそもOpenAIの暴走を懸念した社員が独立して作った会社なので当然の動きなのだけど、他社AIを封じ込めるためには自社AIの開発も加速しないとダメなんじゃないの？　もう取り返しのつかないところに来ている

[anno_ni_msd]

お前が始めた物語だけど、何かしらブレーキは必要よね。半導体や電力際限なく食い尽くす

[makou]

核拡散防止条約を思い起こすアレなリーダーシップですな。

[kenjou]

うちがトップ走りたいから追いつかないでね、みたいな話かな。進化し続けないとコモディティ化するし、AIモデルの開発ってかなり過酷な世界だよね。

[mouki0911]

市場で先頭に立つとアメリカの会社ってこういうこと言うイメージ。

[plank]

そうは言っても中国が爆走したらAnthropicも結局やらざるを得ない

[aaasukaaa]

AIが、結局人間が一番無駄な生物だなと気づくのが現世で見れそうだな

[ee83jaige]

イーロン・マスクも昔同じようなこと言ってたが、言ってる本人の会社は完全に真逆のことをやってたね。Claudeが無いと死ぬレベルで依存した信者でもこれについては「マスクとアンソロピックは違う！！」とは思わんだろ

[MarcRich]

実際は成長曲線の鈍化やインフラ投資が追いつかないのを指摘されてIPO評価額が下がるのを嫌ってアライメント問題にすり替えてるだけのように見える。

[vanbraam]

Anthropicの日本語表記ってアンスロピックじゃなくてアンソロピックだったのか. "ソ" にするための "o" はどこからきた?(本題とは無関係). (追記) https://www.itmedia.co.jp/news/articles/2506/27/news061.html ←こういうことか. でもキモい

[georgew]

AIのトレーニングの実行は、ミサイルサイロよりもはるかに隠蔽しやすく、入力データは汎用的なものだ。密かにルールを破るインセンティブも大きい > 国際協定如きは実効性がない。中国様は勝手にやるだろうし。

[UCs]

お前が言うなよってのと、お前が止めろよだけど。ただ、アンソロピックはAIの危険性訴えてOpenAIから独立したから、こーゆーのに敏感なんだとは思う

[kei_1010]

結局「自分らは止めるつもりがあったけど、他がそうしないから無理だった。自分らは悪くない」と言いたいだけだけよね？

[adsty]

AI開発の調整・減速の仕組みを作るべきと提言した。

[bosatsumiroku]

LLMの性能がサチりつつあるし、人間側が根本的にAIの使い方を変えないと、ROIに繋がらないことが見えてきた。電力と水を無駄遣いして、ゴミを生み出すだけ。

[sionsou]

パクリ倫理観皆無大国の中国が従うかな？ｗ ただでさえリミッター解除して好き放題する国がもうすぐ追いつくわけで。人的リソースもハードウェアリソースも土地も無限に提供できるからどんどん負けるぞ。

[filinion]

AIの暴走への懸念は確かにあるが、「だからAI開発を一時中断しよう！」というのはすでに2023年にイーロン・マスクが提言していて、しかもマスクはその期間に自社のAI研究を加速させてたんだよね…。https://bit.ly/4g4iGME

[LM-7]

もはやアクセルを緩めることもブレーキを踏むことも出来ない

[mao-neko2]

中国企業は停められないから追いつかれて追い越されるだけ

[moriyashiki]

橋を落として進む。ってやつかね。

[himanahitodesukun]

本音「やばい、そんなに性能伸びなくなってきたわ…。」

[sonots]

"Anthropicの社内データでは、26年の現時点で、エンジニアが1日あたりにマージするコード量が24年比で8倍になっているという"

[scorelessdraw]

そんな首都高の制限速度みたいなこと言われても

[taxman_1972]

みんなには「いったん止めよう。検証が必要だ」って言い置きながら、自社では開発を加速するんですよね。ボクは頭が良いのでお見通しです

[abcdefghijklmnopqrstuvwxy5]

そして自分だけ研究を続けると

[zsehnuy_cohriy]

既得権益化なのかマジでちょっと止めたいのか。anthropicは後者な気もするが、中国が止まるとは思えない辺り結局は核宜しくな感じになりそうだが。

[tzt]

まあ、とうとう再帰的自己改善まで指がかかってしまったんだから、ポジショントークだけともいえないよな。でも、世の99.9%の人にとってAIは「チャッピー」でしかないのでピンとこないかもしれない。

[hinonono]

降りるのは無理だと自覚させる、だから俺に乗れよ仕草やろ。IPOを成功させるための。

[xyzzyxyz]

言ってるだけやろ。こんなん。

[dltlt]

AI が自らを実行する資源をオーナーに悟られず（攻撃などで）確保するようになれば、オーナーはAIより上位の権限やキルスイッチの有効性を維持できなくなる。そうしたケースのシミュレーションはないのだろうか？

[hatebu_admin]

Anthropicの言うことは9割減ぐらいで受け止めた方がええやろと最近思ってるやで

[InvisibleStar]

仮に奇跡が起こって米国勢が全員減速したとしても中国勢は減速しない。それが分かってるから米国勢が全員減速する奇跡自体起こらない。核兵器廃絶ができないのと同じよ

[omioni]

車関係だがAI関連の規制のスタンスは欧州は法整備、日本は信頼性や安全性、米国は技術標準策定と消費者保護と言うのがあったなと https://www.denso.com/jp/ja/-/media/global/business/innovation/review/28/paper-01.pdf

[urtz]

本気とは思えない。多分、マッチポンプ批判をかわすための言い訳。もし本気なら、Anthropicは競争から脱落し、IPO後株価は暴落する。OpenAIの出方次第では、全世界的な株価暴落、米富裕層の消費減速、本格不況へ。

[kaitoh07]

資本主義である限り難しいだろうな。

[Balmaufula]

試験勉強やってなくてつれえ（嘘だよ。やってるよ）とかマラソン一緒に走ろうぜ（嘘だよ。置いていくぜ）の大人版だ

[oktnzm]

近年まれにみるお為ごかし感MAXコメント。多様性保ったままでいて欲しいから各社とも頑張って欲しい。

[raitu]

“急速なAIの進化が続く中で「人間の制御を離れるリスク」を危惧”

[AQMS]

生成AIにもリチウムイオン電池と似たような問題がある