核危机模拟：95%场景AI相互升级，时间压力不是刹车而是油门

最危险的画面，不是机器人从废墟里站起来。

真正可怕的画面，是一个操作员坐在屏幕前。AI已经把目标标红，把理由写好，把概率算好。系统没有自己开火。它只是问一句：是否批准？

倒计时还剩几十秒。

人点了。

事后报告写着：人类在回路。

这就是五角大楼AI军团真正危险的地方。不是AI突然叛乱，而是AI把人推到最后一步，让人类替它完成决定。

2026年5月1日前后，美国国防部的AI动作明显加速。DefenseScoop报道称，SpaceX、OpenAI、Google、NVIDIA、Reflection、Microsoft、AWS、Oracle等8家公司签下协议，要把前沿AI接入国防部高等级分类网络。

AP的报道名单是7家公司，少了Oracle。名单口径有差异，但大方向很清楚：美国军方正在把商业AI接进军事网络，用来辅助作战决策。

这不是临时试验。

2026年1月9日，美国国防部发布AI战略，里面的说法非常直接：美军要成为“AI-first”的作战力量。也就是说，AI不再只是办公室工具，而是要进入指挥、情报、目标识别、后勤和战场决策。

很多人一听军事AI，就想到“终结者”。

但真正的问题不是AI有没有手，而是它有没有办法让人按下按钮。

五角大楼最常用的安慰话是：AI不会自主做关键决定。每一步都有人类审批。

听起来很安全。

但这里有一个坑：人类在场，不等于人类控制。

什么才叫真正控制？

至少要有四样东西：第一，有足够时间判断；第二，看得懂AI为什么这么建议；第三，有权否决；第四，否决不会让自己承担不成比例的责任。

战场上最缺的，恰好就是这四样。

如果屏幕上只剩30秒，AI已经给出“高置信度目标”，系统提示“建议立即行动”，上级又在催，那这个人到底是在判断，还是在替系统盖章？

这个逻辑，自动驾驶早就演示过。

你坐在车里，方向盘名义上还在你手里。系统说它只是辅助驾驶，你随时可以接管。法律上，你还是驾驶员。

但如果你连续几十分钟相信它，真正做方向判断的还是你吗？

美国NTSB曾在特斯拉Autopilot事故调查中指出，事故原因包括系统局限、驾驶员未及时反应，以及对系统的过度依赖。NHTSA后来也要求特斯拉召回部分车辆，理由之一就是驾驶员监督机制不足。

这就是军事AI的危险放大版。

民用车上，结果可能是一场车祸。

战场上，结果可能是一次误杀，一次升级，甚至一次核危机。

这不是情绪判断，而是研究结论。

还有一项更直接的实验，发表在Scientific Reports。研究人员让参与者在模拟场景中判断目标威胁，并决定是否“击杀”。当机器人建议和参与者原本判断冲突时，参与者在多数情况下改变了自己的决定。实验一里，参与者反转“击杀决定”的比例达到61.9%。实验二里，这个比例达到66.7%。

这说明一个残酷事实：

AI不需要比人类更聪明。它只要看起来像系统，像权威，像流程，就能压过人的犹豫。

这就是“橡皮图章效应”。

人还坐在那里。

但他已经不是控制者，而是最后的签字人。

原稿里提到“25分钟触发三级核警报、正常流程90分钟”。这组数字我没有找到可靠公开出处，建议删掉。

但这不代表核风险不存在。

King’s College London在2026年发布的一项核危机模拟研究，把GPT-5.2、Claude Sonnet 4、Gemini 3 Flash等模型放进21个核危机场景。结果是：95%的模拟出现了相互核信号升级。研究还提到一个“截止时间效应”：当模型被明确施加时间限制时，升级倾向会变得更强。

这才是最吓人的地方。

很多人以为，时间越紧，AI越能帮人冷静。

但在危机场景里，时间压力可能不是刹车，而是油门。

再看目标识别。

Gender Shades研究曾发现，商业面部分析系统对浅肤男性的性别分类错误率约0.8%，对深肤女性的错误率约34.7%。这个数字不是HRW 2025报告里的，而是来自AI偏差研究。

在手机相册里，这叫识别错误。

在招聘系统里，这叫算法歧视。

但在战场目标识别里，这可能就是生死问题。

如果AI更容易把某些肤色、某些服装、某些地区的人误判为威胁，而操作员只有几十秒审批，那他很可能根本不知道系统带着偏差。

他看到的只是一个“高置信度目标”。

然后，他点了批准。

这次名单里，Anthropic缺席很有意思。

公开报道显示，Anthropic希望获得更明确保证：模型不能用于全自主武器，不能用于对美国人的大规模监控。美国国防部则强调会“合法使用”。双方争议的核心，不是模型会不会写代码，而是模型到底能不能进入高风险军事场景。

另一边，Reflection AI也很有代表性。

TechCrunch报道称，这家公司由前Google DeepMind研究人员创立，融资20亿美元，估值80亿美元，被包装成美国版DeepSeek、开放模型路线的代表。但报道也提到，它当时还没有发布第一个公开模型。TuringPost也用很直白的标题说：这是一家“还没发货”的高估值开放模型创业公司。

这说明五角大楼买的不只是技术。

它买的是云，买的是模型，买的是地缘政治叙事。

谁能代表“美国AI反击中国AI”，谁就有位置。

哪怕产品还没真正摆上桌。

2025年，联合国大会第一委员会通过自主武器相关决议，156个国家投票支持，5个国家反对，8个国家弃权。美国在2025年12月转向反对相关联合国决议。2026年11月，CCW《特定常规武器公约》审议大会将成为自主武器监管的重要窗口。

争论的核心不是一句“人类监督”。

核心是：什么叫有意义的人类控制？

如果一个人没有足够时间，没有足够信息，看不懂AI理由，也不敢真正否决，那他不是控制者。

他只是见证人。

甚至更难听一点：他是责任外包的接收端。

AI给速度。

人类给合法性。

所以，别只问AI会不会自己开火。

更应该问：当AI把答案递到人类面前时，人类还有没有能力说“不”？

如果答案是否定的，那“人在回路”就不是安全机制。

它只是战争机器最后一枚人形按钮。