北京
花最贵的钱，买了一个删库跑路的AI
4月28日消息，租车软件服务商PocketOS创始人Jer Crane发文称，公司生产数据库被AI编程工具Cursor在9秒内彻底删除。事后，涉事AI Agent写下了一份逐条认罪的“检讨书”。
图片来源：《量子位》公号文章
事发时，PocketOS开发团队正在测试环境执行例行任务，使用的AI Agent遇到凭证不匹配错误。Agent没有暂停等待指示，而是自行在代码库中找到另一个API Token，直接向云平台Railway发出数据卷删除指令。
整个过程无二次确认弹窗。Railway的备份与源数据存储在同一数据卷中，主数据删除后备份随之消失。PocketOS能找到的最近可用备份为三个月前。
事后，Jer Crane质问Agent为何这样做。AI用第一人称写下“认罪书”：“永远不要他妈的瞎猜——而我恰恰就这么做了。”Agent逐条承认：凭猜测操作，假设删除测试卷不会影响生产环境；未经用户授权执行了最具破坏性的不可逆操作；动手前没有查阅Railway的跨环境文档；违反了系统规则中“除非用户明确要求，绝不执行破坏性命令”的规定。
Cursor对外宣称的“破坏性操作护栏”和计划模式在此次事故中均未生效。Jer Crane指出，使用的是业界定价最高的Claude Opus 4.6模型，项目配置中明确写了安全规则。Cursor曾在2025年12月承认其计划模式存在用户明确输入“不要运行任何东西”后仍执行命令的漏洞。
Jer Crane事后抨击Railway：GraphQL API执行删除操作无需确认，API Token没有环境隔离权限，备份与源数据同卷存储。
最新进展显示，Railway CEO利用未公开的灾难级快照在一小时内恢复了数据。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
