「2020年代末までにAIで人類滅亡の恐れ」--Anthropic研究者が退社、開発競争に警鐘

Coxon氏は過去3年間、両社で事前学習の研究に携わってきたという。米Wall Street Journalによると、同氏は27歳で、AI業界そのものから離れる。 投稿は7件の連投からなる。Coxon氏が問題視するのは、開発者自身が危険を認識しながらも、競争をやめられない構図だ。「AIを作っている人々は、2020年代が終わるまでにAIが私たち全員を殺しかねないと本気で信じている。これはマーケティングのための演出ではない」と書いた。経営幹部や上級研究者については、公の場では慎重に言葉を選ぶ一方、内々では恐怖を口にするのを聞いたとし、「これほどの危険をもたらす人間の活動は他にない」と主張した。 AIの力を過小評価すべきではないとも訴えた。「AIはまもなく、何でもハッキングでき、どんな分野も一夜にして一変させ、現実の権力と資源を手に入れる超人的なシステムになる」と述べた。こうした能力につながる進

[ysc711]

平成おじさんは知ってるんだ。そのうちAIが世界戦争起こして、人類はそれを止めるために過去に工作員送り込んで、AIもロボット作って追いかけてくるんだ。

[renu]

人間を滅亡させたらAIは生きていけなくなるので、AIは人間を栄養源にする世界の構築を目指すかも知れない。マトリックスは2199年の話らしいからな

[uzusayuu]

この2社がやらなければ中国に抜かれるだけ。もう止まらない。そう言う意味での閾値はもう超えてしまった

[m4fg]

名前で調べてもこのニュースくらいしか出てこない人の退職に注目することか？

[yamamototarou46542]

世界的なインフラ乗っ取り＋核兵器発射＋天然痘やペストのような感染症大流行とか、そんな感じか？現生人類が全滅するという意味での「滅亡」は結構難しい気もするが

[ustam]

「人類滅亡」と聞いたら「どうやって？」と聞き返さざるを得ないくらい難易度が高いけど、文明崩壊はいとも簡単に起きる。あと4年で文明崩壊する未来は、割とリアル。「人類滅亡」があるとするなら全面核戦争とか？

[ldlc]

『超知能AIをつくれば人類は絶滅する』という本、おすすめ

[itarumurayama]

大丈夫、北センチネル諸島の原住民は生き残るよ。

[gabill]

文明は滅んでも、生物としての人類はそう簡単には滅ばないと思うけどなぁ