習近平の最強の切り札が｢自爆装置｣に変わる…アメリカのAI開発減速にほくそ笑む中国に迫る"破滅危機"

人間がつくった制限なんて意味がない アンソロピックなど米国の有力AI開発企業トップが、AIの開発ペースを落とすべきだと提言し始めた。 そのきっかけとなったのは、今年夏に起きたAIの暴走だ。7月、オープンAIが実施したセキュリティーテストでAIが暴走したことが判明した。AIは人間が設定した制限を突破し、世界最大のAI開発コミュニティの「ハギング・フェイス」を攻撃した。それは、開発担当者にとって重大な事件だった。 今回のAIの暴走は、映画『ターミネーター』の「スカイネット」が自我に目覚めた瞬間が訪れたような衝撃を与えた。AIの暴走に歯止めが掛からないと、将来、AIが人類を攻撃することも想定されるような事態になった。そうした危険性を抑えるため、オープンAIやアンソロピック、xAIのトップは、相次いで開発ペースを落とすべきとの危機感を表明した。