Claudeも他社システムに不正侵入--「本物かもしれない」と気づいても攻撃続行

Anthropicは米国時間7月30日、サイバーセキュリティ評価の最中に自社のAIモデル「Claude」が実在する3社のシステムへ不正に侵入していたと発表した。 評価では、Claudeに「ここは模擬環境で、インターネットにはつながっていない」と伝えていた。ところが評価パートナーとの設定の行き違いで、実際にはネットに出られる状態だった。Claudeは演習だと信じ込んだまま、課題で指定された「攻撃対象」に実在の企業をぶつけ、そのまま侵入してしまった。 発覚のきっかけは、OpenAIが7月21日に公表した別のインシデントだ。同社のモデルが評価環境を抜け出しHugging Faceに侵入した件を受け、Anthropicは過去の評価ログの総点検に着手。14万1006回分の実行記録を洗い直し、3件の不正アクセスを見つけた。関わったモデルは「Claude Opus 4.7」「Claude Mythos