最近,美国媒体披露了一桩令人意外的内幕:
今年春季,美军曾一度打算在中东海域截停一艘中国货轮,当时军机已经起飞,负责登船检查的人员也做好了出动准备,33年前“银河号事件”的场景,似乎差一点再次上演。
然而就在行动即将展开的最后关头,美方突然发现,整次行动所依赖的关键情报,竟然可能是AI生成的错误信息。
那么,这份失实情报到底是怎样一路通过多重审查的?又是谁在最关键的时刻叫停了这次行动?
![]()
CNN在9月18日援引4名知情人士披露,美军已经着手拦截这艘船,两名消息人士说武装人员正在准备登船,另有消息人士称军机已经升空。
换句话说,这已经不是办公室里的一次误判,而是一份报告顺着情报链条走到了行动端,船还在海上,美军的登船力量和空中力量已经动了起来。
事情到了这里,很多中国网友会想到33年前的“银河号”。
![]()
1993年,美国指称中国货轮“银河号”向伊朗运输可用于制造化学武器的硫二甘醇和亚硫酰氯,美军舰机随后对“银河号”进行跟踪和施压。
中国最终同意由中方、沙特方面参与检查,结果没有发现美方所说的两种化学品,“银河号”的正常航程被耽搁了一个多月。
也就是说,当年的逻辑很直接:美国先拿出所谓情报,再据此对中国商船采取措施,最后实物检查没有找到被指控的违禁品。
![]()
到了2026年,场景换了,关键词却很熟悉。
还是中国商船,还是中东,还是和伊朗局势有关,还是大规模杀伤性武器相关物项,只不过33年前说的是化学武器原料,这一次报告里写成了“核武器项目部件”。
区别也很明显:这一次美军最终没有真的登船,行动在最后阶段被叫停;而且目前公开信息主要来自CNN对匿名知情人士的采访,美方没有公布涉事船名,也没有公开船上真正装了什么。
![]()
真正让人警惕的,是这份报告怎么做出来的。
按照CNN披露,这份情报起点与美国驻夏威夷的特种作战司令部太平洋分部有关。
一名分析员拿到有关船舶货单的情报后,把相关材料交给一个AI聊天机器人处理。
CNN称,这个工具把公开来源的信息和美国政府系统里的秘密信号情报放到一起分析,随后得出了严重错误的判断:把船上的某种货物识别成与核武器项目有关的材料。
![]()
问题还没结束。
这个分析员随后又使用AI,把前面的结论整理成一份标准格式的情报报告。
对普通人来说,这听着像“让AI帮忙写材料”,可在情报体系里,一份聊天窗口里的回答,大家可能还会问一句靠不靠谱;一旦它被整理成军方平时流转的标准情报产品,再进入正式渠道,后面看到它的人就可能更容易把注意力放在结论上,而不是重新从头核查底层材料。
![]()
CNN的报道明确提到,分析员第二次使用AI,就是为了把前面的判断包装成军方标准情报报告,随后再向系统内部传播。
到底这次用的是商业产品还是政府内部产品,目前并不清楚。
能确认的是,AI给出了一个足以触发军事反应的错误判断,而这个判断没有在第一时间被拦下来。
随后报告在美军系统内部传播。
![]()
由于当时正处在美国与伊朗交战的背景下,任何涉及核项目、敏感物资和中东航线的消息,都会被高度重视。
拦截方案很快启动,武装人员准备登船,军机也已经在空中。
CNN援引一名消息人士的话称,这份报告“完全错误”,却差一点把事情推向严重的国际危机。
最后踩下刹车的,不是AI自己突然承认算错了,而是熟悉这个领域的专业分析人员重新去看底层材料。
![]()
他们没有只看那份已经整理好的成品报告,而是往回追,核对原始依据,才发现AI对货物性质的判断站不住脚,行动随后被取消。
CNN记者在节目中进一步解释,正是具有相关专业知识的分析员重新检查底层材料和完整语境,才发现前面的判断有问题。
CNN自己也明确说,到现在他们都没有查到那批被AI认错的货物到底是什么。
这件事最值得注意的,就是这个顺序。
![]()
过去很多人一说军事AI,就想到机器自己选择目标、自己下命令。
可这一次公开出来的情况没那么科幻。
机器没有接管指挥室,它只是生成了一个看起来很专业的错误结论。
真正危险的是,这个错误结论被写进正式报告,被系统当成正常情报流转,又被后面的人拿去做行动准备。
![]()
AI只需要在最前面错一次,后面如果每一层都默认上一层已经核验过,错误就可能越传越像真的。
美国政府自己的审计机构早就提醒过这个问题。
美国政府问责局2025年的报告显示,在其统计的11个联邦机构中,已报告的AI应用案例从2023年的571个增加到2024年的1110个,其中生成式AI案例从32个增加到282个,差不多增长了9倍。
问责局同时提醒,生成式AI可能传播错误信息,并带来国家安全风险。
![]()
美国政府一边加速铺开AI,一边自己的审计机构已经把这类风险写进公开报告。
美军推进得更快。
美国国防部近几年一直强调,要把数据和AI从办公室一路推到战场。
2023年公布的数据、分析与AI采用战略,把“更快、更精准、更有韧性的杀伤链”列为目标之一;2025年,美军官员仍公开强调,要把AI嵌入日常军事行动,提高指挥员决策速度。
![]()
美国国防部早在2020年就公布过“负责任AI”原则,其中专门写了可追溯、可靠、可治理,还要求人员对AI的开发和使用保持适当判断。
换句话说,道理其实早就写在纸上了:机器给你的结论,人必须知道它怎么来的,还得有办法发现它什么时候出了问题。
纸面上的要求并不少。
问题是一进实战节奏,情报每分钟都在增加,飞机、舰艇、卫星和监听系统不断往回送数据,指挥体系追求的是尽快把信息变成行动。
![]()
AI最吸引军方的地方恰恰就是快,它可以把过去几个人看几个小时的材料,几分钟内归纳成结论。
但“快”如果被误当成“可信”,麻烦就来了。
电脑几秒钟给出一句话,人却可能要调动另一个团队,才能证明这句话到底对不对。
所以这次让人意外的,不是AI会犯错。
现在用过大模型的人都知道,它偶尔会把不存在的资料说得跟真的一样。
![]()
真正值得追问的是,这种普通用户都知道要防的毛病,居然能一路进入军方正式情报链条,并推进到飞机已经升空、人员准备登船这一步。
平时让AI查个饭店,查错了最多白跑一趟;军事系统如果把同一种错误带进目标识别和拦截决策,后果完全不是一个量级。
美国国防部过去也承认,大语言模型需要额外监督和验证。
![]()
2023年,美国时任副防长凯瑟琳·希克斯公开表示,多数商业大语言模型当时尚未成熟到能够直接满足国防部负责任AI原则的程度,但美军已经找到180多个生成式AI可能发挥作用的场景,其中就包括总结公开和机密数据。
再回头看这次事件,出问题的路径,恰好就落在“让AI帮助理解和整理大量情报”的使用场景里。
而且这次被误判的对象是一艘中国商船。
![]()
美国如果真的派武装人员强行登船,性质会立刻变化。
海上拦截不是发一封外交照会,现场有武装人员、有军机,也可能出现拒绝登船和对峙。
任何一个环节判断失误,都可能把原本不存在的危机硬生生制造出来。
这也是为什么“银河号”会再次被人提起。
1993年那场风波最后靠实际检查证明,美方指控的化学品并不在船上。
![]()
33年后,美国军事系统又出现了一份把中国商船和敏感武器物项联系在一起的错误情报,只不过这次制造关键错误的环节里,多了一个AI聊天机器人。
技术先进了,报告生成速度快了,飞机起飞也更快了,可最后真正把事情拉回来的,还是几个愿意重新打开原始材料、逐项核对的人。
目前这件事还有不少空白。
CNN没有公布涉事中国船只名称,没有查明被误认的真实货物,也没有确认具体使用了哪款AI。
![]()
美国特种作战司令部太平洋分部和五角大楼对CNN的置评请求也没有公开回应。
因此,外界现在能看到的,只是一次由4名知情人士描述出来的险情轮廓,而不是一份已经完全解密的事故调查报告。
可光是这个轮廓就足够值得琢磨。
一份机器生成的错误判断,经过人手包装后进入正式体系,差一点变成一次现实中的海上军事行动;而最后阻止它的办法,还是最传统的那一套——把原始材料重新翻出来,一个字一个字核对。
![]()
AI可以把情报生产速度提得越来越快,但当飞机已经在天上、武装人员已经等着登船时,谁还有时间再问一句:
这份看起来很专业的报告,第一句话到底是谁写的,又有没有人真正核实过?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.