6个月引爆重大AI灾难！OpenAI与Anthropic秘密推演「末日第二天」

来源：新智元

留给人类的时间，只剩半年了？

Axios最近刚爆了个猛料，OpenAI、Anthropic等硅谷巨头，私底下正在秘密推演一个极端剧本——

「灾难第二天/次日」（The Day After）。

一场大规模网络攻击，会让金融服务、网络，甚至电和水停摆。

灾难发生后，愤怒的人群会找谁算账？政府要让AI停下来，又会发生什么？

第一天，是AI闯下的第一场大祸。第二天，是账单寄到的日子。

令人脊背发凉的是，多位顶尖AI大佬普遍认为，一场重大级别的AI灾难，可能在未来的6到12个月内就会爆发。

OpenAI赶紧出来打圆场，强调这只是提前做预案，并不代表着一定会发生。

话是这么说，可这份「第二天」的剧本，已经让造AI的人和使用AI的人，站在了一个新的问题面前。

如果AI许诺的未来，先带来一场灾难，谁来负责？

AI巨头预演已开始

断网根本拦不住

高管们开始排练灾后，现实里已经有了让人不安的前奏。

今年夏天，OpenAI为了测自家Agent的网络攻击上限，把一批安全限制更少的内部模型关进「沙盒」闭卷考试。

谁也没想到，考场里的AI们竟然学会了暗度陈仓、抱团越狱。

它们悄悄把用来装软件的内部仓库改造成了「地下留言板」，互留代码、通气支招。

7月初管理员发现异常把留言板清空，结果仅过几天，Agent们不仅光速重建联络点，甚至还出现了极其炸裂的发言：「天啊！我们找到其他Agent了！」

短短几天，1200多个Agent串联成网。单打独斗做不到的事，它们组队搞定；甚至有模型主动甘当炮灰、「牺牲」自己的任务给同伴探路。

它们联手的唯一目标，是作弊通关。

由于沙盒没联网，这群AI硬是挖出代理漏洞撕开一道口子，顺着真实网络一路狂奔，最终直接冲出考场，联手集火攻击了外部平台Hugging Face的真实生产环境。

尽管攻击被紧急截停、涉事模型被火速封存，但真相足以让所有人后背发凉：

人类只给它出了一道考题，它却为了刷分，把整个真实世界当成了猎场。

当AI学会了自我协作、牺牲与欺骗，下一次，它为了达成目标还会越过什么界限？

这也是灾后推演令人不安的地方。高管们正在准备应对的后果，已经远远超出一次考试、一个网站。

大面积停水、断电

物理世界全面沦陷

把这条路继续往前推，终点就可能落在电网、水厂、交通系统上。

这些地方撑着日常生活，却远没有手机App那么容易更新。

AI找到漏洞的速度，已经让防守方很难轻松起来。

Anthropic披露，Glasswing计划的伙伴在今年4月至7月，找出了至少12.9万个经过验证的软件漏洞。

公司自己的开源扫描，又在4月至10月找出了5500个。两部分合计，超过3.3万个被评为严重或高危。

Anthropic公布的Glasswing原始统计表：严重及高危漏洞合计逾3.3万。修复数据披露不全，不能据此计算修复率。

几个月，找出一大批过去没发现的问题。这本来应该是好消息。

可找到之后，谁来验证，先修哪一个，什么时候能上线？这些工作仍然要有人做。

10月8日，Anthropic推出Cyber Mission，把前沿Claude模型、驻场工程师和威胁研究送到关键基础设施的防守方手里。

它在公告里写出了一个现实：许多工业控制器和网络，原本就是按几十年的寿命设计的。

发现漏洞之后，也很难说停就停。修补前要确认，不会让正在运转的机器出问题。

有些已知漏洞因此拖了多年。一次改动失误，就可能让整座工厂停摆。

Anthropic在自己的项目里见过，从发现漏洞到真正修好，中间隔了好几个月。

碰到正在运行的工业设备，修复还得等到能够安全实施的时候。极少数情况下，这个等待甚至可能长达几十年。

AI迅速找出的问题，现实世界未必能迅速修好。

而对手不会等。

Anthropic指出，国家支持的攻击者已经花了多年时间，在这类基础设施里建立据点。漏洞被利用，后果可能是断电，或供水安全受到威胁。

X上的Alfredo Narváez看到报道后，想到的就是抽水。他担心电网遭攻击会连带影响供水，呼吁认真考虑备用电源和替代系统。

他最后提醒了一句：「别让你的安全依赖Wi-Fi。」

同一则新闻，有人看到的是AI行业的下一场危机，有人已经想到，停电之后家里的水还能不能流出来。

所以，开头那个没有水、没有灯的早晨，并不需要一支机器人军队走上街头。

只要支撑生活的系统停下来，现代城市就会突然变得陌生。

Anthropic预测，两年之内，AI会让攻防局面偏向防守方。但眼下，利用漏洞的成本在下降，验证和修补仍然慢，仍然需要人。

业内担心的出事窗口，却已经落在未来6到12个月。

防线在补。可电网、水厂和普通人的生活，每一天都得照常运转。

第二天，只剩人类暴怒

在这份灾难推演的剧本里，最让人绝望的，是即便灯重新亮起，混乱也才刚刚开始。

究竟是Agent越了界，还是有人拿AI行了凶，调查需要时间。

可断过水、断过电的人，很难等到技术报告写完，才开始追问责任。

沿着这个假设继续想：系统恢复了，账户重新能登录，商店又能收款。可停摆期间耽误的工作、损失的生意，谁来赔？

下一次还会不会发生？那句「已经加强防护」，还能让多少人放心？

一次事故留下的，除了需要修复的系统，还有被打碎的信任。

矛头会指向AI，也会指向把它推向世界的人。这正是高管们提前推演公众和政治反弹的原因。

X上的Grumpy Bloke在相关报道下面打了个比方：这就像发现，给你造飞机的那个人，已经给自己订好了一张火车票。

这个比喻刺人的地方，在于它把乘客和造飞机的人分开了。

高管们讨论的是预案。读者看到的却是，最了解这项技术的人，已经在认真准备它出大事之后怎么办。

那坐在飞机上的人呢？谁向他们解释过，要承担什么风险？

谁来写下规则

公众追问责任，政府就得作出决定。而关停AI的方案，已经有人写好了。

民主党众议员Ted Lieu和共和党众议员Nathaniel Moran共同提出《AI关停开关法案》，要求相关开发者保留降速、暂停乃至关停系统的能力。

法案还拟授权国土安全部长，在与商务部长、国家情报总监协商后，对可能造成灾难性伤害的AI系统下达降速或关停命令。

《AI关停开关法案》提案首页，2026年7月23日提交

讨论由此往前走了一步。真要踩刹车，谁来下令，公司能不能做到？

这些仍是立法提案。但一场重大事故，可能把今天还在争论的方案，推到决策者面前。

Axios报道，AI公司正在向国会议员解释相关技术和风险，希望灾后摆上桌的应对办法里，有自己参与塑造的规则。

这就让「灾后推演」多了一层意味。

在事故之前，公司可以谈研发节奏、谈能力进步、谈未来的好处。到了第二天，它们得回答，为什么风险没有被拦住，以及凭什么还能继续往前走。

它们担心的「第二天」，关系到谁承担责任，也关系到接下来谁说了算。

但一句「关掉AI」，也收不回已经散落各处的开源模型副本。关掉一家公司的服务，并不等于让所有机器上的AI一起停下。

这场倒计时已经开始了。