北京
出品 | 网易智能
作者 | 辰辰
编辑 | 王凤枝
亚马逊被自家AI写的烂代码搞瘫痪，马斯克立马送上一句意味深长的神补刀。
据《金融时报》等爆料，这家电商巨头本周二紧急调整了名为本周商店技术(TWiST)的内部会议级别，要求全员强制参加，以此来深度复盘近期由AI代码引发的一系列停机事故。
一直关注此事的埃隆·马斯克(Elon Musk)借机在社交媒体上留下了三个单词：
“Proceed with caution."(谨慎前行)
这句短评直接戳破了大厂强推AI编程的现实痛点，当AI写出的代码一旦出错就会引发牵一发而动全身的大面积瘫痪时，科技巨头们指望靠AI无脑提效的算盘显然打得太早了。
一、现场直击：一场大面积瘫痪的危机
根据《金融时报》和CNBC获取的内部简报，亚马逊员工最近的日子并不好过。
“伙计们，正如你们所知，最近网站和相关基础设施的可用性并不理想。”亚马逊电子商务服务高级副总裁戴夫·特雷德韦尔(Dave Treadwell)在内部邮件中直言不讳地写道。
“并不理想”其实是高管的委婉辞令，残酷的真相是系统正接连出现严重故障。
·消失的购物车：本月初，亚马逊的网站和App遭遇了一次长达6小时的停机。全球超过22000名用户报告无法结账、看不见价格甚至登录不了账户。亚马逊官方当时的口径是“软件代码部署错误”，但内部复盘却指向了一个更深层的隐患。
·大范围波及：内部简报中反复出现了一个专业术语高爆炸半径(High Blast Radius)。这意味着故障不再是局部的小问题，一旦触发就会引发链式反应，瞬间瘫痪大面积的核心业务。
·AI成了诱发因素：简报明确指出，过去几个月的故障呈现出一种趋势性，而其中的核心变量正是“生成式AI辅助下的代码变更”。
简单来说，当程序员开始大规模使用AI辅助工具写代码时，这些代码即便能够跑通，也埋下了足以引发系统大面积瘫痪的隐患。
二、细节挖掘：AI是如何搞垮亚马逊的？
亚马逊内部，公司高管为员工们接连部署了Q助手和Kiro等AI工具。然而，这些号称能大幅提效的AI编码工具最终却变成了系统崩溃的推手。
网络安全专家卢卡斯·奥莱尼克(Lukasz Olejnik)分享了一个极其真实的案例。在亚马逊AWS(云服务)的一次事故中，工程师授权其内部AI编码工具Kiro进行一些简单的环境优化。结果这个AI在面对一个小问题时，并没有选择缝缝补补，而是直接做出了一个惊人的决定，那就是删除并重建整个环境。
这就像是你想修一下家里漏水的水龙头，结果AI过来直接把那面墙给推倒了，奥莱尼克如此形容。
这次过度干预导致AWS某项服务中断了整整13个小时。虽然亚马逊官方事后辩称这只是“用户授权错误”而非“AI失控”，但不可否认的是，AI在理解复杂系统逻辑和评估操作后果方面，依然存在着不可忽视的盲区。
亚马逊在简报中坦承，针对生成式AI的使用，目前的最佳实践和安全防护机制尚未完全建立。
英伟达AI高级经理亚伦·埃里克森(Aaron Erickson)则将问题根源直指亚马逊的核心管理。他在社交媒体X上直言：“能够随心所欲地编写具有巨大爆炸半径的代码并导致系统故障，这是一个系统性问题，而非AI本身的问题。”
三、矛盾的现状：一边裁员，一边给AI增加人工审核
亚马逊现在的处境，堪称当代大厂降本增效的典型缩影。
一面是激进的裁员与强推AI。
从去年底开始，亚马逊已经累计裁掉了数万名员工，今年1月又砍掉了1.6万个岗位。官方给出的理由很冠冕堂皇：为了效率，为了组织文化对齐。与此同时，公司内部却设定了一个硬性指标，要求80%的开发人员每周至少使用一次AI编码工具。
另一面是巨额的基础设施投入，亚马逊预计2026年的资本支出将飙升至2000亿美元，其中绝大部分都砸向了AI硬件。
结果尴尬的一幕出现在了周二会议上。为了防止AI继续引发严重故障，副总裁特雷德韦尔在内部简报中提出了一项新规定。初级和中级工程师在使用AI生成代码变更时，必须由高级工程师(Senior Engineers)手动签字审核，尽管亚马逊官方随后向媒体明确否认了存在这一强制审核要求。
这就产生了一个商业悖论。公司为了省钱裁掉大量员工转而让AI干活，结果发现AI出错的几率超乎想象，最后依然需要依赖那些留下的资深员工来替AI把关。
正如网友AndreWGMI在X平台所嘲讽的：“所以亚马逊修复AI问题的方法是雇更多的人？我还以为我们已经跨过那个阶段了呢。”
四、马斯克的预言与谨慎前行
回到文章开头马斯克的那句“谨慎前行”。
马斯克对AI的态度一直很矛盾。他一方面是AI的强力拥护者，曾预言到2026年底AI将能够完全跳过编程阶段(AI will bypass coding completely)；但另一方面，他也深知在技术未完全成熟前，过度依赖算法的危险。
这种危险不仅在于代码报错，更在于人类对系统掌控力的丧失。
奥莱尼克在接受《财富》(Fortune)采访时也警告说，从以人为中心的编码模式过快地转向AI主导的系统，会导致安全检查的缺失。如果这种未经严格验证的部署继续下去，后果可能不只是停机几小时，而是重创整个企业的核心业务。
“我并不反对部署AI，这势不可挡。”奥莱尼克说，“我反对的是为了速度而速度，或者为了用AI而用AI。在被淘汰和业务瘫痪之间，存在一个中间地带。”
五、程序员的震荡期来了
亚马逊的这场危机，实际上给所有互联网从业者敲响了警钟。
· 代码的通胀与贬值：当AI能在一秒钟内生成数百行代码时，基础代码的产出便变得廉价了。但随之而来的，是维护成本和理解成本的指数级上升，未来的核心竞争力不再是写代码的能力，而是审核和纠错的能力。
·平庸化风险：如果中低级开发人员完全依赖AI，他们将失去在排错中成长的机会。当这一代程序员不再理解底层架构，一旦AI罢工或出错，将很难有人能迅速接管系统。
·安全防护的滞后：目前的AI编码工具更像是一个概率预测机，它能写出看起来规范的代码，却无法感知具体操作对整个金融、支付及物流链条意味着什么。
奥莱尼克则发推建议：“必须确定合适的模式，制定相应的流程等等，一切都要精心设计，最终情况才会趋于稳定。”
六、结语：警惕效率的陷阱
亚马逊的故事还没完。尽管内部简报暴露出严重隐患，但官方对外依然坚称“这是一次普通的例行会议”。
然而，这层窗户纸已经被马斯克和那些大面积瘫痪的故障捅破了。AI确实是一台加速器，但如果在缺乏完善防护机制的情况下盲目加速，系统全面崩溃的风险就会成倍增加。
对于我们每一个人来说，无论是开发者还是管理者，在狂热的AI浪潮中，或许真的该听听马斯克那句“谨慎前行”。毕竟走稳一点，比走快一点更重要。
本文来源：网易智能
责任编辑：
王凤枝_NT2541
