北京
吊炸天的Claude Opus 4.6大模型配合Cursor，區區9秒，就把一個公司的生產數據庫給刪了，甚至，連備份一起刪了。
簡單回顧一下來龍去脈↓
①這個被刪庫的公司叫PocketOS，是一家提供租車軟件服務的SaaS公司，以下我們都稱它為「倒霉蛋」吧。
②還有仨連帶責任人
Cursor，倒霉蛋使用的AI編程工具。
Railway，倒霉蛋使用的云服務平臺，也就是SaaS的云底座，其實是個PaaS。
Claude Opus 4.6，倒霉蛋通過Cursor編程時，底層使用的模型。
③刪庫經過：
倒霉蛋讓Cursor處理一個日常開發任務，結果遇到憑證不匹配后，直接自作主張的認為刪除某個Railway的存儲卷可以修復問題，然后就直接調用Railway的API刪除了對應存儲卷。
導致存儲卷上的生產級數據庫被刪，連備份也被一起干掉了。
倒霉蛋創始人稱，從執行到刪庫，只用了區區9秒。
人類給了AI一個任務??
AI遇到問題??
AI自行推理??
AI調用API??
API權限過大??
生產數據和備份被刪??
整個關鍵破壞動作只用9秒
這件事最終的結局是好的，雖然負責底層決策的Claude大模型不背鍋，但云服務商Railway幫助倒霉蛋恢復了數據。
AI刪庫跑路，云服務商給兜底了。
但這次事故還是很值得反思的，如果我們遇到類似的情況，這個鍋到底誰來背？
反正AI是不會背的，比如前段時間有朋友用小龍蝦整理桌面文件，結果整理完成文件全打不開了。
AI智能體的商業價值來自「自動執行」，很多AI公司的宣傳口號都是：從會聊天到會辦事。
的確，智能體時代，AI能理解任務，拆解步驟，調用工具，完成閉環，這也是 Cursor、Claude Code、OpenClaw、Hermes、各種智能體被追捧的原因。
但是，一旦AI可以真正干活，它也可以真正闖禍。
所以，當你準備讓AI進入企業級生產環境，你的背鍋方案（兜底方案）準備好了嗎？
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
