美国AI差点闯大祸!
9月19日,美国CNN爆料:美军因为人工智能生成的不实军情报告,差点全副武装地的登上一艘中国船只。
而这与1993年的银河号事件一模一样。
中国果然没说错话!
![]()
事情发生在今年春季美伊战争胶着阶段。
当时美军为了封锁伊朗核物资运输,在中东水域布下了严密的情报监控网,人工智能正是这套监控网的核心工具。
按照美军的说法,AI可以快速筛查海量船舶的航行数据、货运清单、卫星影像,效率比人工高出几十倍,能精准揪出“可疑船只”。
![]()
就是这套被寄予厚望的AI系统,闹出了一个差点引发大国冲突的大乌龙。
它在分析一艘正常航行的中国籍民用商船时,错误判定船上装载了核武器相关的重要部件。情报一路快速上报,拦截指令随即下达,负责执行任务的军机都已经升空,只等抵达目标海域后实施登船检查。
万幸的是,行动前的最后高层复核中,有官员发现AI给出的证据链存在明显漏洞,所谓的“核部件”根本经不起推敲,整场行动才被紧急叫停,一场一触即发的危机被掐灭在了最后一步。
要知道,一旦美军战机真的抵近中国商船,甚至强行登船搜查,无论最后有没有找到所谓的“核部件”,都是对中国主权和海上权益的严重挑衅。
![]()
这并非美军第一次在AI上栽跟头。
今年2月28日,美军对伊朗米纳布小学和拉莫德一处体育中心发动导弹袭击,造成大量平民伤亡,联合国后续调查直接认定这一行动构成战争罪。
尽管美方一直没有明确说明当时的目标判定流程,但彭博社从内部调查中获得的信息显示,过度依赖人工智能进行目标识别,是导致这次误炸的核心原因之一。
当这种“无中生有”的能力被用到军事情报系统里,会带来战略级的风险。
![]()
和平时期的情报工作,有充足的时间做交叉验证,不同部门反复核对、层层把关,错误很容易被筛掉。但在战时或者局势高度紧张的状态下,所有决策流程都在加速,为了抢战机,人工复核的环节会被一压再压,甚至直接省略。
这个时候,AI给出的结论往往会被当成“权威参考”,甚至是“最终结论”。
毕竟它在短时间内处理了人类几个月都处理不完的数据,没人会轻易质疑它的“专业性”。
![]()
这次的商船事件就是最典型的例子。
如果当时局势再紧张一点,或者复核的官员没那么细心,战机就已经飞到商船上空了。
更危险的是,现在美军一直在推进“杀伤链自动化”,也就是让AI从发现目标到发起打击全程参与,尽量减少人工介入,追求“发现即摧毁”的速度。
如果未来整个打击链路都高度依赖AI,那幻觉带来的误击可能连补救的机会都没有。
![]()
所以说,军事AI的幻觉问题,是能直接点燃武装冲突、引发大国危机、甚至挑起地区战争的导火索。
而这恰恰是美国号称“AI技术最领袖”的打脸!
从目前披露的信息来看,问题恰恰出在“太着急”上。
有熟悉美军AI系统的人士透露,美军现在用的不少情报分析模型,本质上就是成熟的商业大模型“换了层皮”,只是简单投喂了一些军事领域的数据,就匆匆忙忙部署上线了,根本没有经过足够多的场景测试和安全校验。
![]()
之所以这么赶,和美军今年初力推的政策直接相关。
今年1月,美国国防部长赫格塞思正式发布了“人工智能加速战略”,核心思路就是砍掉繁琐的官僚审批流程,让AI技术以最快的速度落地到各个作战环节。
说白了,就是要和时间赛跑,抢在其他国家前面完成AI的军事全覆盖。
要快,最省事的办法就是“拿来主义”。从零开始研发专门的军事大模型,周期长、成本高,远不如直接拿市面上的商业大模型改造来得快。
但商业大模型从出生那天起,就不是为军事场景设计的。
![]()
但用来做情报分析、打击目标判定,每一次幻觉都可能付出生命的代价。
雪上加霜的是,美军各部门的AI系统至今都是各自为战,没有统一的标准。
陆军有自己的一套,海军有另一套,情报系统又是单独的体系,不同部门用的模型不一样,训练数据不一样,安全标准也不一样。
![]()
这就可能出现同一个目标,不同AI给出完全相反的判定,最后采信谁的结果,不看谁更准确,看谁的部门话语权更大。
其实,今年以来,Anthropic CEO阿莫黛伊、OpenAI CEO奥尔特曼,还有马斯克,都先后公开呼吁放慢前沿大模型的研发速度,建议建立统一的安全审计机制和行业安全标准。
他们对外的说法是AI风险太高,需要完善监管才能继续发展。
但外界也有解读认为,这背后其实是美国AI发展遇到了瓶颈,烧钱速度和收益预期不匹配,担心行业泡沫破裂,才营造出一种“主动踩刹车”的叙事。
不管是真的担心安全,还是商业层面的算计,至少有一点是共通的:AI不能再毫无约束地狂奔下去了。
尤其是军事领域的AI,一旦出问题,代价是整个世界都承受不起的。
![]()
今年也门战场就出现了一个很有标志性的案例:胡塞武装利用AI语音合成技术,伪造了政府军高级指挥官的撤退命令,通过前线的通讯渠道传播出去。
不少政府军士兵信以为真,指挥体系陷入混乱,部队士气直接崩溃,甚至出现了成建制撤退的情况。
而且商业AI公司和军事应用的边界,正在变得越来越模糊。
![]()
未来的地区冲突里,我们可能会看到越来越多“非故意”的摩擦。
一个AI的幻觉、一次技术故障,就让局势失控滑向冲突。这种不确定性,才是AI给全球安全带来的最大挑战之一。
其实,对于AI军事应用的风险,中国其实早就看得很明白,也一直在国际上发出理性的声音。
![]()
近些年我们在多个国际场合呼吁,要加强人工智能全球治理,反对无节制的AI军备竞赛,推动建立全球统一的安全标准和监管机制。
和美军一味求快的思路不同,我们在AI军事应用上始终保持着克制,把安全可控放在和技术发展同等重要的位置。
我们也在扎扎实实打造自己的硬实力,从根源上避免被动挨打的局面。
![]()
就拿远洋海上安全来说,截至2026年7月,中国海军已经累计派出48批护航编队,出动舰艇150余艘次,完成了超过7200艘中外船舶的护航任务,始终保持着被护船舶“零劫持”的记录。
这意味着,中国商船在国际海域航行,背后有实实在在的力量托底,不是谁想拦就能拦、谁想查就能查的。
更关键的是导航系统的自主权。
![]()
当年银河号事件中,美国一度关闭相关海域的GPS信号,让船舶失去准确导航,陷入被动。
但北斗三号系统早在2020年就完成了全球组网并正式开通服务,截至2025年底,中国籍国际航行船舶的北斗终端安装率已经达到100%。
别人想靠掐断信号来卡我们脖子,基本不可能再实现了。
可以说,我们有能力保障自己的海外利益,也有能力在全球AI治理的问题上,发出负责任的大国声音。
![]()
说到底,这次差点重演的银河号事件,给全世界都敲响了一记警钟。
人工智能深度应用于军事领域已经是不可逆转的趋势,但怎么让它朝着安全、可控、负责任的方向发展,是所有国家都必须回答的问题。
大国更应该承担起相应的责任,坐下来谈规则、定标准,一起给军事AI套上安全的缰绳,而不是忙着搞军备竞赛,比谁的AI部署得更快、更狠。
![]()
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.