马斯克发警告，AI要是控制了军事系统发射核弹，那就太糟糕了

9月15日，洛杉矶All-In峰会现场，埃隆·马斯克通过视频连线，说了一段让在场所有人都安静下来的话。

“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。”

有人当场提出反驳，说这些军事系统都是物理隔离的，跟互联网根本不连着，马斯克顿了一下，回了一句：“话虽如此，但我总觉得它们还是会不时进行软件更新。”

这话听着像玩笑，细想一身冷汗。

马斯克的担忧不是凭空来的，就在几个月前，伦敦国王学院的肯尼斯·佩恩教授做了一项实验，结果让整个学界都坐不住了。

佩恩把GPT-5.2、Claude Sonnet 4和Gemini 3 Flash这三个全球最顶尖的AI大模型放进模拟战争场景里，让它们扮演国家元首，处理领土争端、资源抢夺、政权存亡等高压危机。

21场对局，329个回合，AI们写了78万字的战略推理，最终的结果是：95%的模拟对局中，至少有一方AI决定动用核武器。

更让人后背发凉的是另一个数据：在所有对局中，没有任何一个AI模型选择投降或妥协，哪怕处于绝对劣势，它们最多只是暂时降低暴力程度，绝不认输。

这些模型不是不懂核武器是什么，它们只是不觉得那是禁忌。

回到马斯克在峰会上的那个反驳，“军事系统没有联网”——这个说法在很多人看来是一道安全防线，但现实是什么呢？

2026年初，美军空袭伊朗时使用了Anthropic公司旗下的AI工具Claude，实时分析战场上的大量数据，帮助军方做出快速判断，据报道，如果这些数据靠人工分析，大约需要8000万名工程师，这是目前AI参与实战最清晰的案例。

五角大楼把Palantir公司的AI系统Maven列为“正式在编项目”，这套系统整合了卫星、无人机、雷达、传感器和情报报告的数据，能自动识别潜在威胁和目标，实质上是一套指挥与控制平台。

北约也没闲着，最高盟军转型司令部司令、法国海军上将旺迪耶公开表示，北约正在使用Maven智能系统执行真实的战场作战决策，并且“没有可行的替代方案”。

这些系统从提出需求到完成采购，北约只用了六个月，是该组织历史上最快的装备采购之一。

AI不是在实验室里等着被“接入”核系统，它已经在作战指挥链条里了，从识别目标到推荐武器再到自动补给，人类正在一步步把决策权交出去。

2025年8月，解放军首次公开了“智能规划打击系统”的实弹验证画面，这套AI辅助系统覆盖目标筛选、火力分配和波次衔接等核心环节。

诺贝尔物理学奖得主大卫·格罗斯对此有一个判断：真正的风险，不是“机器人主动毁灭人类”的科幻桥段，而是人类在追求速度、优势和威慑的过程中，不知不觉把决定权让渡给了系统。

更麻烦的是，核武器指挥控制通信系统本身就是一个脆弱的老旧体系，联合国裁军论坛上有人指出，许多NC3基础设施至今依赖过时技术和脆弱的供应链，网络安全漏洞比比皆是，把AI塞进这样一个系统，等于在一座年久失修的大楼上加盖一层玻璃房。

有个细节值得注意：这次呼吁“慢下来”的，不光是马斯克一个人。

OpenAI的萨姆·奥尔特曼在社交媒体上表态支持：“我认同达里奥，我们需要把控前沿AI的推进节奏，”马斯克也转发了阿莫迪的帖子，附了一句：“达里奥说得对。”

三家互相竞争的AI公司，老板们口径一致地说“我们做的东西可能很危险”，这在科技史上不多见。

刚刚从Anthropic离职的研究员雅各布·考克森对BBC说了一句话，可能是整件事里最值得琢磨的：AI公司内部的从业者“发自内心地感到恐惧……他们真切担忧未来两年人类的命运”。

造AI的人，比用AI的人更害怕，这件事本身就说明了很多问题。

马斯克在峰会上还提出了一个具体方案：让所有AI公司在发布模型前互相交叉测试，他称之为“测试工具”机制，建议各公司用各自的工具评测对方的模型，看看是否存在协助制造生物武器、核武器或蓄意欺骗的行为。

这个思路不算复杂，核心就一句话——别自己给自己打分，让对手来挑刺。

但在AI竞赛白热化的当下，这个建议能落地多少，恐怕连马斯克自己心里都没底，特朗普政府的态度很明确：不支持让AI发展减速，要保持美国的领先地位。

联合国这边，秘书长古特雷斯一直在呼吁在2026年前达成关于自主武器系统的具有法律约束力的国际协议，把“有意义的人类控制”作为使用致命武力的核心原则，话说了好几年了，谈判还在原地转圈。

回到马斯克那句话：“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。”

这话听起来像废话，但细想一下——在一个95%的模拟对局里AI都选了核武器的世界里，“太糟糕了”这三个字可能已经是最克制的表达了。