差点引爆战争？AI闯下大祸，误导美军对中国船动手，中美拟建护栏

9月18日，美媒CNN披露一事：今年春天，美伊战争期间，一份情报报告在美军内部传阅开来。报告的内容足以让任何指挥官紧张：“一艘正在中东航行的中国船只，装载着核武器计划的部件。”

美军迅速进入行动状态，开始计划拦截这艘船，武装人员准备登船，军用飞机也升空待命。一切似乎都在按照标准流程推进——直到行动即将开始前，美国官员对这份报告进行了深入核查，发现它是由AI生成的，而那个聊天机器人错误地识别了船上的货物。

这一严重失误，差点引发了一场战争。

AI是如何闯下大祸的？

这起事件的细节，看起来让人后背发凉。

据CNN报道，这份报告出自美国特种作战司令部的一名分析师。这名分析师向聊天机器人调取一艘中国船只载货清单相关情报，素材来自夏威夷的美国太平洋司令部。聊天机器人混合了公开资料与内部机密信号情报，得出船上货物的“决定性结论”。之后分析师继续借助AI，将这些内容整理成规范的情报报告。这类制式报告在美军体系里本身可信度很高，消息一出，立刻触发了警戒，相关行动随之启动。

整件事的症结在于，从提问、分析到产出报告，整条流程里缺少有效的人工复核。机器生成的内容格式工整，看着十分专业，直接被当成可靠的情报采信。

更值得警惕的是，这并不是个例。一名熟悉美军与情报界AI系统的前高官曾提到：“内部工具大多只是商用产品换了个包装。”说白了，美军用来做情报分析的AI，只是市面上的通用大模型简单改造，并没有完成严苛的军用安全测试。

由此能看出，美国各个部门使用的AI工具五花八门，各自的指令、安全标准都不统一，缺少一套统一机制核验AI输出信息真伪。相同的AI幻觉，随时可能在不同部门、不同场景、针对不同目标再次出现。

不少人简单认为，险情是AI单方面“说谎”造成的。但这件事背后藏着更深层的隐患：人类分析师对AI产生了盲从。

AI输出一份排版规整、表述专业的标准化报告，人就容易放松戒备，默认这份内容已经过多方交叉验证。比起AI本身产生幻觉，这种心理更危险，人反倒在不知不觉中替AI的结论背书，本该有的复核环节，也就走了个过场。

五角大楼所谓“放开试验”，简直太不负责任

那么问题来了，既然有如此大的风险，美军为什么这么急着用AI？答案很简单：怕落后。

今年1月，美国国防部长赫格塞思发布了《人工智能加速战略》，明确要“放开试验、消除官僚壁垒、集中投资”，确保美国在军事AI领域处于领先地位。这个战略计划推动AI在军队的广泛应用，从分析海量原始情报、选择打击目标，到管理预算和供应链。

出发点不难理解。现代战争的信息量太大了，光靠人力分析根本处理不过来。AI能极大压缩情报研判的时间，让指挥官几秒内就拿到分析结果。在大国竞争的大背景下，这种极致的速度，被美军当成了关键优势。

可速度提得越快，出错的代价也就越大。大模型天生存在“AI幻觉”的通病，经常产出看似严谨合理、实则完全失真的内容，这个技术短板至今没有彻底解决。日常使用顶多闹个乌龙，但一旦放进军事决策流程，一次AI误判，就足以酿成无法挽回的重大危机。

整件事还有个耐人寻味的细节：事发后，无论是五角大楼还是太平洋司令部，都全程沉默、拒绝回应。这种沉默本身就很能说明问题——如果连美军自己都没摸透这套AI系统的可靠性，却已经大胆投入实战化情报研判、辅助军事决策，风险可想而知。

五角大楼一心想抢先拿下军事AI的优势，于是主动放宽各种限制，把严谨的安全测试、风险核验统统往后放。在他们的逻辑里，AI哪怕存在出错的可能也无所谓，只要技术落地比对手更快、布局更早，就是赚的。但战场从来不是可控的实验室，容不得试错。

五角大楼这种“放开实验”的心态，说白了就是极度浮躁，又极度心存侥幸，简直就是一种不负责任的赌徒心理。不过也反映出，面对中国蓬勃发展的AI大模型，美国政界和军方是多么焦虑。

中美为什么需要坐下来谈AI安全

这起事件发生的时机，恰好在中美准备启动AI安全对话的背景下。

据路透社报道，中美高层今年5月会面时，同意就AI展开政府间对话。9月19日至23日，中国国务院副总理何立峰率团赴美与美方举行经贸磋商，美方代表团由财政部长贝森特率领。贝森特在声明中说得很明确：“美国在AI领域仍处于领先地位，我们愿意就如何规避共同风险、避免两国系统走向分化展开讨论。我们希望彼此的讨论内容，能够涵盖开放权重和封闭权重两种模型。”

议题中包括一些具体的合作方向：监测AI主导的网络攻击、要求AI企业进行“自我监管”、共享信息等。

中方对此的态度是务实的。在9月初的G20创新部长级会议期间，中美共同签署了“卡罗来纳原则”，主张AI监管应保持灵活和风险导向。这是中美在AI监管思路上罕见的趋同。

为什么两个竞争如此激烈的大国，要坐下来谈AI安全？

道理很简单：AI带来的风险不分国界，更不会区分谁是对手。就这次事件而言，倘若AI的误判，最终让美军向中国船只开火，事后就算把缘由归结为机器出错，已经酿成的冲突也无法挽回，中方也不可能以“AI误判”而不向美方追责。

中美在AI赛道上的竞争固然十分激烈，但现实摆在眼前，双方又不得不坐下来寻找共识，比如先从那些会同时伤及两方的风险着手，像AI介入网络攻击、前沿大模型失控、发生重大AI安全事故时的信息互通，还有AI用于军事场景的风险管控，都属于需要协商的议题。

当然，也别误以为中美开启这场对话，就意味着双方会停下AI领域的竞争。

事实并非如此，安全沟通和技术竞争本就是两条并行的轨道。双方依旧会在模型、算力、产业链上持续比拼，同时搭建起危机沟通的渠道。就像当年美苏的核军备竞赛，对抗从来没有中断，但双方一直保留热线、建立危机管控机制，核心目的就是防止突发意外不断升级，被一场谁都不想要的突发事件，裹挟进冲突里。

怎么合作管控，比要不要合作管控更难

9月15日，“AI教父”、2018年图灵奖得主本吉奥接受法新社采访时说了一句很重的话：人类正在失去对AI技术的控制，全球需要类似核武器控制那样的防护措施。他尤其担心AI的自主行动能力——未来可能出现AI代理突破网络防线、侵入任何一家公司系统的情况，甚至无须人类介入就能在现实世界中完成实际行动。

澳大利亚前总理陆克文也提出了类似的看法。他认为，中美两个AI大国必须为前沿AI技术搭建安全护栏，共同划定风险红线，避免AI失控带来的意外冲突。

这些话都很对，可问题在于，护栏怎么建？中美在AI技术路线上存在根本性差别，这里可以用一个简单的比方来说：美国走的是“封闭路线”——把AI模型当成自家独门秘方，核心技术攥在自己手里，不对外公开，只有少数企业能接触到。中国走的则是“开放路线”——主动把模型的底层技术开放出去，让更多研究者、开发者都能在此基础上继续迭代。

更深层的分歧在于监管思路。美方倾向于“灵活和风险导向”，中方则强调“以人为本、智能向善”。两种表述背后，是对AI治理的不同理解，但至少有一点是共同的：双方都认识到，AI的误判可能引发谁都不想要的冲突。这起美军差点对中国船只动手的事件，就是最生动的案例。

不过我认为，拿核管控来类比AI安全管控是不完全恰当的，两者有个关键性的不同点：核武器的控制权牢牢握在各国政府手上，可如今前沿AI技术，不少都掌握在私人科技企业手里。

国家很难做到完全管控模型的迭代，以及技术外流的问题。就算大国之间谈妥了安全规则，企业自主更新模型、技术悄悄外流，都有可能绕开这些约定。这么一来，搭建AI安全护栏这件事，要比当年的核管控棘手得多。

看样子，国与国之间对AI的合作管控，还有很长一段路要走。

张屹｜国际政治博士、世界经济博后