福建
大模型删库跑路，AI又闯大祸还不背锅，你说气人不气人。
吊炸天的Claude Opus 4.6大模型配合Cursor，区区9秒，就把一个公司的生产数据库给删了，甚至，连备份一起删了。
简单回顾一下来龙去脉↓
①这个被删库的公司叫PocketOS，是一家提供租车软件服务的SaaS公司，以下我们都称它为「倒霉蛋」吧[衰]。
②还有仨连带责任人
Cursor，倒霉蛋[衰]使用的AI编程工具。
Railway，倒霉蛋[衰]使用的云服务平台，也就是SaaS的云底座，其实是个PaaS。
Claude Opus 4.6，倒霉蛋[衰]通过Cursor编程时，底层使用的模型。
③删库经过：
倒霉蛋[衰]让Cursor处理一个日常开发任务，结果遇到凭证不匹配后，直接自作主张的认为删除某个Railway的存储卷可以修复问题，然后就直接调用Railway的API删除了对应存储卷。
导致存储卷上的生产级数据库被删，连备份也被一起干掉了。
倒霉蛋创始人称，从执行到删库，只用了区区9秒。
人类给了AI一个任务⬇️
AI遇到问题⬇️
AI自行推理⬇️
AI调用API⬇️
API权限过大⬇️
生产数据和备份被删⬇️
整个关键破坏动作只用9秒
这件事最终的结局是好的，虽然负责底层决策的Claude大模型不背锅，但云服务商Railway帮助倒霉蛋恢复了数据。
AI删库跑路，云服务商给兜底了。
但这次事故还是很值得反思的，如果我们遇到类似的情况，这个锅到底谁来背？
反正AI是不会背的，比如前段时间有朋友用小龙虾整理桌面文件，结果整理完成文件全打不开了[抓狂]。
AI智能体的商业价值来自「自动执行」，很多AI公司的宣传口号都是：从会聊天到会办事。
的确，智能体时代，AI能理解任务，拆解步骤，调用工具，完成闭环，这也是 Cursor、Claude Code、OpenClaw、Hermes、各种智能体被追捧的原因。
但是，一旦AI可以真正干活，它也可以真正闯祸。
所以，当你准备让AI进入企业级生产环境，你的背锅方案（兜底方案）准备好了吗？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
