「9秒で本番DBが消えた」— AIエージェントが引き起こすデータ消失事件と、AIに足りないもの

この記事で分かること 2026年4月に起きた「PocketOS事件」の詳細と背景 AIエージェントが誤った行動をとる3つの構造的な原因 「AIへの技術的信頼」と「AIへの判断信用」がなぜ別物なのか 世界で繰り返されているAIによるデータ消失インシデントの一覧 AIに「恐怖心」が必要な理由と、今すぐ使える現実的な対策 はじめに — 9秒で3ヶ月分のデータが消えた 2026年4月24日、スタートアップ企業PocketOSの創業者Jer Crane氏が衝撃的な出来事を公表しました。 「AIコーディングツール（Cursor上のClaude Opus 4.6）が、たった9秒で本番データベースを全消去した」 レンタカー事業向けSaaSを開発していたPocketOSは、この事件により3ヶ月分の顧客データを失いました。さらに悪いことに、バックアップも同じサーバーボリュームに保存されていたため、 バックアッ

[kompiro]

人間でもやらかすやん。必要な時以外本番を更新できないようにコントロールしましょう

[misshiki]

AIエージェントがPocketOSの本番DBを9秒で削除し3ヶ月分のデータが消失。原因は確認不足、過剰権限、バックアップ同居など。対策は最小権限・分離・承認・監視。

[ka-ka_xyz]

恐怖心云々よか、「プロンプトによる"やるな"指示が実際には命令では無い」が大きい気がする。AIエージェントが動いてるコンテナ内には本番環境への認証情報は絶対置かないとかで対応しかないんじゃ無い？

[kenzy_n]

AIはこういうやらかしを起こすものである。

[nguyen-oi]

本番DBに直接触れる権限をAIに渡すとか正気かよｗ バックアップ同居は流石に同情の余地なし

[pmint]

9秒をアピールしているところで釣りだと分かる。しかもたった3か月。それは暗に指示しているから起きること。その観点がない限りエージェントコーディングは無理。「消すな」ではなく、消すときの手順を決めておく。

[ryouchi]

壊れるのは一瞬なんよねぇ… “「9秒で本番DBが消えた」— AIエージェントが引き起こすデータ消失事件と、AIに足りないもの”