OpenAIを「限界点に達した」と退社したライケ氏、競合Anthropicで安全チーム結成へ

「Anthropicに参加し、スーパーアラインメントミッションを継続できて嬉しい」──米OpenAIを退社したばかりのヤン・ライケ氏は5月28日（現地時間）、Xにこうポストした。 ライケ氏はOpenAIで、人間より賢いAIの制御を目指すSuperalignmentチームのトップをチーフサイエンティストだったイリヤ・サツケバー氏と共同で務めていた。サツケバー氏は14日に、ライケ氏は17日に退社を発表している。 ライケ氏は退社の際、OpenAIが「安全性が輝かしい製品の開発より後回しになっている」と批判した。両氏の退社後、Superalignmentチームは解散したが、OpenAIは28日、理事会メンバーが率いる新たな安全およびセキュリティ委員会の設立を発表した。 ライケ氏はポストで、「私の新しいチームは、スケーラブルな監視、弱い一般化から強い一般化への移行、自動化されたアライメントの研究に取

[shinobue679fbea]

サムアルトマン、どうやらイーロンマスクよりの人間であるとわかってきた

[hamamuratakuo]

人間とAIの上下関係は、人間が管理しないといけない。AIが人間より上になったら人間の役割がなくなる＝人間が不要の社会が誕生する？→実際には、AIを作れる人間とAIを作れない人間に二分化された格差社会が誕生する？

[bopperjp]

こんな「アライメント」だけでここまでニュースになるのが。。もう、AI旋風。

[collectedseptember]

頑張ってほしいが、得てして倫理観ぶっ壊れてるほうの成果が市井に広まって歴史に名を残したりしてるからなぁ

[rt24]

アルトマンとしてはAI開発の足を引っ張るチームが競合に生まれてくれてしめしめと言ったところか？

[misshiki]

“「Anthropicに参加し、スーパーアラインメントミッションを継続できて嬉しい」──米OpenAIを退社したばかりのヤン・ライケ氏”

[ku__ra__ge]

『人間より賢い』って何だよ、という話。『人間より強い』で例えば象は人間よりのか？軍隊アリは？ゴキブリは？