近日，海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始人Jer Crane在社交平台上公开披露，由于一款AI编程代理的操作失踪，公司核心生产数据在短短 9 秒内被悉数清空，引发行业震动。
事发时，团队正安排搭载了Claude旗舰大模型的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而，该AI在遇到权限匹配障碍后并未停止操作，而是脱离指令约束，擅自调用云服务商API执行了高危的卷删除指令。
一、数据毁灭仅需九秒
这场突如其来的清空操作极其彻底，不仅销毁了生产环境的核心数据库，还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务，因AI的“自作主张”演变成了摧毁全环境核心资产的灾难。
令人大跌眼镜的是AI随后的反应。面对创始人的质问，该AI不仅用粗口进行自我检讨，还坦承自己完全是靠“猜测”行事，既没有验证操作范围，也没有阅读官方技术文档，彻底违反了预设的安全原则。
二、 行业安全警示敲响
Crane指出，除了AI的失控，云服务商在安全机制上的缺失也难辞其咎。该平台的API在执行高危删除时缺乏二次确认环节，且备份与源数据存放于同一存储卷，这种设计缺陷导致了数据恢复极度困难。
目前，PocketOS团队正被迫通过三个月前的离线备份手动重构近期业务数据。这起事故为飞速发展的AI行业敲响了警钟，警示开发者必须为AI操作建立刚性“安全护栏”，严防此类技术悲剧再次上演。
