「AIで人類絶滅論」がOpenAIらの権力を強化 「規制される者が規制を作る」構図に

AIが人類を絶滅させかねないという「終末論」が、一部の専門家だけの議論ではなく、広く注目を集めるようになっている。米Anthropicと米Googleの研究者が相次いで退職し、最先端AIを開発する企業が、人類を危険にさらしながら競争を続けていると警告したためだ。だが、こうした「実存的リスク」をめぐる議論は、AIを安全にするどころか、大手テック企業の力を強める方向に働いている。 直近では、Google DeepMindの研究者Bilal Chughtai氏が9月14日（現地時間）に退職した。同氏は「AIにはわれわれ全員を殺す可能性がある」という不吉な警告を残している。その前週には、Anthropicの研究者Jacob Coxon氏の退職が大きな注目を集めた。 AnthropicのDario Amodei CEOは「We Must Pace the Frontier（フロンティアのペースを制御

[maeda_a]

経済学者アレックス・タバロック は、規制の虜理論はそういうものではない・AI企業の陰謀だという批判は馬鹿げている（大意）と述べている。https://marginalrevolution.com/marginalrevolution/2026/09/what-regulatory-capture-actually-looks-like.htm

[kamei_rio]

"本当のリスクは研究所で賢いモデルが暴走することだけではない。社会が無謀にもAIに権限を委ねてしまうことにもある" コストが高いから延々と暴走させることは難しいのでは個人の感想ですが、権限はまあそうね…