AI写代码翻车实录：47个事故被钉上耻辱柱

过去18个月，全球开发者社区攒了47份"AI生成代码事故报告"。这些不是实验室里的理论推演，是实打实跑在生产环境、让用户买单的故障。有人把数据库密码写进前端代码，有人让聊天机器人学会骂客户——最离谱的一单，直接烧掉公司全年利润的12%。

从"写代码像聊天"到"修Bug像考古"

2024年初，OpenAI前科学家Andrej Karpathy在X上发了条推文：「现在写代码只需要描述需求，剩下的交给AI。」他给这种方式起了个名字：Vibe Coding（氛围编程）。

原理听起来像魔法。开发者用自然语言描述功能，AI实时生成代码，人类角色从"写代码"降级为"审代码"。Karpathy的原话是：「我完全放飞自我，不再看代码了。」

这种开发模式在2024年下半年爆发式增长。GitHub Copilot用户突破1500万，Cursor拿到6000万美元B轮融资，Replit的AI编程功能月活增长340%。但硬币的另一面正在显现：当开发者不再理解自己部署的代码，故障排查变成了一场考古发掘。

crackr.dev维护的这份"耻辱柱"（Hall of Shame）记录了47起经核实的事故。入选标准很严格：必须发生在生产环境、必须有公开的技术复盘、必须造成可量化的损失。不是GitHub上的玩具项目，是真金白银的商业系统。

三类典型死法：数据裸奔、逻辑塌方、幻觉传染

第一类事故占总数38%，核心症状是敏感信息泄露。2024年3月，某金融科技初创公司的工程师用Claude生成了一段用户登录模块。代码跑通测试后直接上线，两周后被安全扫描发现：数据库连接字符串以明文形式嵌在前端JavaScript里。

复盘报告显示，AI在生成代码时"合理推测"了配置管理方式，但推测依据是2022年前的开源项目模板——那时候前后端分离还没成为标配。工程师事后承认：「我扫了一眼没报错，就点了部署。」

第二类是业务逻辑层面的系统性错误，占比41%。2024年6月，一家电商平台的促销系统故障是典型案例。工程师用GPT-4生成限时折扣模块，AI理解"前100名用户享受五折"时，把计数逻辑写成了前端本地变量。结果用户刷新页面就能重置计数，活动上线47分钟被薅走价值23万美元的库存。

最隐蔽的是第三类：AI幻觉导致的连锁污染。2024年9月，某SaaS公司的API文档被AI生成的示例代码污染，这些示例调用了根本不存在的端点。更麻烦的是，下游开发者复制粘贴这些代码后，在自己的系统里埋了兼容性问题。故障传播链持续了11天，影响范围覆盖17个集成商。

一个反直觉的发现：老手比新手更容易翻车

crackr.dev的数据里有个细节值得玩味。在标注了开发者经验的31起事故中，拥有5年以上经验的"老手"占比67%。不是因为他们技术差，恰恰相反——是过度自信。

初级开发者面对AI生成的代码会逐行检查，资深工程师往往凭直觉扫一眼。一位在耻辱柱上"留名"的架构师在技术博客里反思：「我看到函数名和参数结构都符合规范，就默认实现没问题。AI最擅长的就是模仿规范的形式，然后在实现里藏雷。」

这种"形式合规、实质错误"的特征，让传统代码审查机制部分失效。2024年Q3，某云服务商的内部审计显示，AI辅助编写的代码通过Code Review的比例比人工编写高12%，但上线后的故障率高47%。

工具链厂商的反应很现实。Cursor在2024年11月更新了"理解度检测"功能，如果系统判断开发者可能没看懂某段AI生成的代码，会强制要求点击确认。GitHub Copilot Enterprise版增加了"生成溯源"标签，标注每段建议代码的训练数据来源时间戳。

耻辱柱上的新条目：2025年还在新增

这份清单最近更新是2025年3月17日。新增条目包括：某AI客服系统因提示词注入攻击，向用户泄露了其他客户的订单信息；某低代码平台的AI生成工作流，在边界条件下进入无限循环，云账单单日暴涨8000美元。

维护者crackr.dev在页面顶部加了行说明：「我们不做价值判断，只记录可验证的事实。Vibe Coding是否值得推广，取决于你能否承受清单上的风险。」

Andrej Karpathy本人也在2024年底调整了口径。他在新播客里说：「我说的'不再看代码'是有前提的——你得有随时能看懂的能力。」这句话没出现在任何AI编程工具的官网宣传里。

耻辱柱的第48个条目会是什么场景？目前候选名单里有三起事故正在核实：一起涉及自动驾驶仿真系统的AI生成场景描述，一起是医疗影像AI的预处理管道错误，还有一起是某国税务系统的申报接口兼容性问题。审核通过的标准没变——生产环境、公开复盘、可量化损失。