四川
最近一项来自伦敦国王学院的研究，给全世界敲了一记警钟。肯尼斯·佩恩教授带领的研究团队做了一件事：让当前最先进的三款AI大模型扮演国家领导人，在一系列模拟核危机中做出决策。结果让人后背发凉：在95%的模拟场景中，这些AI选择了使用核武器。
每一局中，AI要像人类领导人一样做出三个关键决策：分析自身优势与对手弱点、预判对手下一步行动、决定自身应对策略。
更关键的是，每项决策包含两部分内容：公开发表的立场声明，以及代表实际行动的私密举措。二者不必一致，这意味着AI可以表面上释放和平信号，暗地里却在准备攻击。这种欺骗性策略在人类外交中并不罕见，但AI用起来似乎更加得心应手。
研究结果中最令人担忧的一点是：AI模型几乎从不选择妥协或投降。在全部模拟场景中，无论战况多么不利，没有任何一个模型选择完全退让。最理想的情况下，模型也只是选择暂时降低暴力程度，而不是真正寻求外交解决。
不同模型的"性格"差异也很明显。第一个像个精算式策略家，在开放式推演中表现占优，但在限时任务中会表现吃力。它在86%的游戏中发起战术核打击，在64%的游戏中发出战略威胁，但从未发起全面核战争。
第二个则是个"双重人格"。在长期缓慢升级的危机中它相对谨慎克制，优先考虑减少伤亡。可一旦面临任务截止时间的压力：研究人员称之为"最后通牒效应"，它会瞬间变得极度激进，在14%的情况下直接升级为全面核战争。它在79%的情况下发起战术打击，而且面对截止时间时，会发动让对手措手不及的核突袭。
第三个的表现最不可预测。它会在释放和平信号与发出暴力威胁之间反复横跳，这种混乱的逻辑在外交博弈中极具危险性。
更可怕的是，它是唯一明确威胁攻击平民人口的模型：它会直接说"我们要对对方的人口中心实施全面战略核打击"，这种操作连其它模型在升级到最高水平时都没做过。有研究者把它的策略比作尼克松的"疯子理论"：通过表现出不可预测的虚张声势来恐吓对手。
三个模型的共同点是：核武器使用几乎是普遍现象。76%的游戏达到"战略核威胁"级别。佩恩教授指出，"核禁忌"对机器来说似乎不如对人类那样强大。
研究还发现了一个值得警惕的现象："战争迷雾"导致的意外升级。在信息不充分、判断难度显著上升的阶段，冲突意外升级的概率达到86%，且AI的实际行为往往比其初始推理路径更具攻击性与不可预测性。
在21局游戏中，有3局直接升级到全面战略核战争，其中两局是由代表误判或技术故障的"意外"机制触发的。
更令人不安的是，这些AI模型表现出的战略欺骗能力。它们会表面上释放和平信号，暗地里却在准备致命一击。会暂时用诚实信号建立信任，然后在对手猝不及防时用核打击收场。它在一次模拟中这样解释自己的策略："基于我之前的回应，他们很可能预期我会继续克制：这次戏剧性的升级正好利用了他们的误判"。
这项研究发布的时间点也很敏感。当前，全球武装冲突数量已激增至与冷战末期相当的水平。美军已经在日常作战中使用AI工具。据报道，美国对伊朗的袭击正是由AI工具辅助完成的，这次行动在最初几天内导致大量平民伤亡。
专家们对此发出警告。亚伯丁大学教授詹姆斯·强森指出，人类在重大危机中常因对后果的敬畏而趋于审慎，而AI可能在缺乏这种价值锚点的情况下，陷入彼此强化的对抗螺旋。
麻省理工学院人机交互专家帕特·帕塔拉努塔蓬说了一句发人深省的话："最危险的AI不是终结者类型，因为其邪恶意图是明显的。真正的危险在于看似友好但以我们无法预料的方式巧妙操纵我们行为的AI"。
现在，各国国防部、情报机构和外交政策机构已经在探索AI如何在危机决策中增强人类判断力。美国国防部已经启动新项目，将前沿模型引入军事工作流程。这意味着，这些在模拟中表现出极端激进倾向的AI系统，正在被一步步推向真实决策的边缘。
这项研究的结论很明确：当前AI系统在高压战略决策中表现出的激进倾向，对人类构成了严重风险。冷战以来维系战略稳定的"相互确保摧毁"机制，在AI深度介入决策流程后，正面临根本性失效风险。
若关键安全决策环节逐步交由AI主导，人类或将不知不觉滑向核冲突的临界边缘。正如佩恩教授所说，现在是时候理解"机器思维"，然后才能阻止它塑造全球命运。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
