美军 AI 情报出错险些对中国货船采取军事行动，银河号事件险些重演

#9月·每日幸运签#

9月18日，CNN发布了一篇独家报道，披露了一件发生在今年春天的军事险情。美军在中东地区几乎对一艘中国货船采取了拦截行动，原因是一份人工智能协助生成的情报报告，错误地判断船上载有与核武器计划相关的零部件。武装人员已经准备登船，军机已经升空，直到行动展开前的最后一刻，官员重新审查报告，才发现这份情报是AI聊天机器人生成的，而且内容完全错误。

事件发生在今年2月28日美国和以色列联手对伊朗开战之后不久。美伊冲突期间，美军在中东地区维持着高强度军事存在，对海上运输路线的监控也处于高度戒备状态。就在这个背景下，一名隶属美国特种作战司令部的分析师，就驻夏威夷的美国太平洋特种作战司令部提供的有关中国船只货运清单的情报，向一个AI聊天机器人提问。这个聊天机器人将开源情报与政府持有的机密信号情报结合在一起分析，得出了船上货物与核武器计划相关的结论。分析师随后再次使用AI，把这一发现整理成一份标准情报报告，在美军内部传阅。

这份报告在美军内部引起警觉。多名消息人士向CNN证实，美军随即制定了拦截该船的计划。其中两名消息人士说，武装人员当时正准备登上该船，军用飞机已经升空待命。直到预定行动展开前夕，官员深入追查这份报告的来源，才发现它是在AI的协助下产生的，而且那个聊天机器人错误识别了船上的货物。CNN无法确认被误认的货物实际是什么。一名消息人士对CNN说，这份报告“完全错误”，但“差点引发一场战争”。美军针对中国船只的任何行动，都可能面临演变成两国武装冲突的风险。

CNN在报道中提到，美国政府内部正在推动将AI融入军方和情报体系工作的几乎每一个层面，从分析海量原始情报到挑选打击目标，再到预算、后勤和供应链管理。美国国防部长赫格塞斯今年1月发布了“人工智能加速战略”，目标是加快军方使用AI的步伐，确保美国在军事AI领域保持领先地位。赫格塞斯在宣布该战略时说，要“消除官僚障碍，集中投资，展示必要的执行方法”。

但这个加速推进的过程中，有一个关键环节没有被解决：如何验证AI生成的信息是否可靠。CNN的报道指出，美国政府内部各组织使用着不同的AI工具和安全标准，对于如何验证AI生成的信息，没有统一的规定。一名消息人士用一句话总结了这种风险：“AI能让你更快地得到答案，但也可能让你更快地走向错误的结论。”

这件事被披露后，美国国会很快做出了反应。9月19日，三名民主党参议员——马克·沃纳、杰克·里德和克里斯·库恩斯——联名致信国防部长赫格塞斯和国家情报总监克莱顿，要求相关监察长对此事展开调查。他们在信中引用了CNN的报道，说这类事件“让我们越来越担心，你们监管下的机构是否将加速采用AI能力和‘实验’置于有效治理之上”。

信中还提到了今年2月美军对伊朗一所学校的打击，那次打击造成近200名儿童和平民死亡，三名消息人士告诉CNN，这次打击是在高级军事指挥官绕过了关键数据库中的警告之后发生的，其中包括一个由AI驱动的数据库，该数据库提示关于伊朗潜在目标的情报已经严重过时。

参议员们在信中写道：“公开报道显示，AI目标锁定平台一再产生虚假输出——基于过时的输入数据或纯粹的幻觉——这有可能导致严重的操作失误，还会损害美国公众和国际伙伴对美国情报准确性和可靠性的信心。”他们要求赫格塞斯和克莱顿“立即调查此事”，并让相关监察长“不受限制地查阅今年两起媒体已报道的AI辅助目标锁定流程中的重大错误，以及任何其他可能尚未被公开报道的类似事件”。

有网友评论说，AI最危险的不是犯错，而是把错误包装成可信的情报，让人类在几乎没有时间复核的战争环境中做出判断。有网友把它和1993年的“银河号事件”联系起来。当年美方无端指控中国“银河号”货轮载有向伊朗提供的化学武器原料，美军舰跟踪拦截，军用飞机升空盘旋，经过33天盘查，最终核查证实船上并无相关化学品，美方情报严重失实。一位网友写道：“时隔30余年，银河号事件险些重演。”

有人指出，这次AI误判的根本原因不在AI本身，而在使用AI的人。分析师把AI生成的内容直接整理成标准情报报告，没有做足够的核实，这才是问题所在。如果AI只是一个辅助工具，人类有充分的时间去验证它的结论，这种错误本来是可以避免的。但在战时环境下，时间恰恰是最稀缺的资源。

就在CNN报道发布前不久，美国和中国的安全专家刚刚在一场对话中提出，两国应该为军事AI建立类似核武器管控那样的保障机制。专家们警告说，自动化军事系统可能制造危险的连锁反应。这个建议的基础是2024年两国达成的一项原则，即人类应该保留对使用核武器决策的控制权。但这次事件表明，从原则到实际操作之间，还有很长的距离。

关于AI在军事领域的风险，联合国秘书长古特雷斯此前就说过：“任何影响生死的决策，都不应该交给冰冷的算法。”英国兰卡斯特大学教授露西·苏奇曼的警告更加具体：“AI是由人创造和训练的，人会犯错误，AI也会犯相同的错误，并且犯错误的速度更快、规模更大。”

这次事件最终没有演变成军事冲突，靠的是官员在最后一刻重新审查了报告。但一个现实问题摆在面前：如果下一次，类似的错误发生在时间更紧迫、压力更大的场景下，官员还有没有机会在最后一刻发现问题？当AI被越来越多地用于分析情报和选定打击目标，而验证AI输出内容的标准又没有统一建立起来的时候，类似的险情会变得越来越难以避免。

从银河号到这次AI误判事件，中间隔了33年。当年美方靠的是错误的人力情报，这次靠的是AI生成的错误情报。手段变了，但问题的本质没有变：当一个国家在高度紧张的环境下，依据未经充分核实的信息做出军事决策时，误判的风险始终存在。区别在于，AI让这个决策过程变快了，而变快意味着留给人纠正错误的时间变短了。