你敢信吗?33年前银河号事件的惊险戏码,今年春天居然差点点在阿拉伯海域再次上演。就因为AI瞎编了一份假情报,美军直接战斗机紧急升空,特种部队都做好登船拦截的准备了,就差最后下令动手,差一点就擦枪走火酿成大国冲突。这事还是美国CNN自己爆出来的,现在说起来都让人后背发紧。
![]()
这事说起来离谱到没边,根源就是美军一个情报分析师懒省事。放着传统的原始数据比对流程不用,直接把公开情报和内部机密情报一股脑丢给了AI聊天机器人。这个大模型本身就有老生常谈的“幻觉”毛病,直接把八竿子打不着的零散信息拼到一块,硬得出了个吓人结论:这艘中国商船装着核武器项目部件。
那名分析师之后也没核查,接着用AI工具,直接一键生成了符合五角大楼标准规范的情报报告,转头就发到了军方指挥系统里。这份报告格式标准,话术专业得挑不出毛病,各级指挥官看了都没起疑心,直接就把整个作战指挥链条给启动了。要不是最后关头核查人员发现不对,紧急喊停行动,这大事可就拦不住了。
回头对比33年前的银河号事件,你会发现剧本简直像一个模子刻出来的。同样是中国商船,同样目的地在中东,同样被扣了载有敏感物资的帽子,同样兴师动众搞起了海空拦截。换了个时间地点,核心桥段几乎一模一样。
![]()
两次事件的本质完全不一样。33年前那次,就是美国带着冷战霸权思维,故意用假情报对中国施压搞事。这次倒好,搞出差点引发战争的危机,居然纯纯是AI瞎编出来的锅。不少人天天把“AI万能”挂在嘴边,这事可给全世界都敲了个警钟。
现在的AI说到底,根本没有真正的逻辑推理能力,本质就是按文本概率拼内容,凑出来看起来像模像样的结果。碰上年轻分析师懒惯了,对大模型盲目信任,AI瞎编的内容,直接就变成了能启动战争机器的指令。这次算是撞了大运化险为夷,换个情境谁能保证次次好运。
美军搞AI军事化不是一天两天,类似问题早就在战场上酿出过惨祸。今年2月美以伊战争爆发第一天,美军发射巡航导弹炸了伊朗南部米纳卜市的一所小学,造成至少175人死亡,绝大多数死的都是孩子。事后调查实锤,这起惨剧就是过时情报加AI算法误导共同搞出来的。
![]()
美军现在到处吹的“梅文智能系统”,嵌了好几个大模型,用来自动筛选排序打击目标。问题出在美军的情报数据库更新慢得离谱,那栋楼早就改成学校了,数据库里还标着武装组织基地。AI算得飞快,直接把这个目标当成高优先级推给了指挥官,人类审核赶时间也就走了个过场,发射按钮就这么按下去了。
早在2024年,美军在伊拉克的一次空袭就误杀了一名20岁青年。这事美军自己都公开承认了,就是AI辅助目标识别系统出错导致的平民伤亡。五角大楼之前把梅文计划吹成能改变战争规则的神器,实际测试数据差得让人摇头。就算天气晴朗能见度拉满,识别坦克的准确率也只有六成左右。
![]()
遇上阴雨浓雾这种恶劣天气,识别准确率直接掉到三成。这种准头的东西,也敢直接往一线战场放,胆子也是真够大。前线早就各种险情不断,五角大楼对AI军事化的热情却半点没降,反而越来越狂热。今年年初美国防长还高调推出人工智能加速战略,明确说要打破所有官僚壁垒,把全美顶尖的AI大模型全推给300万美军用。
美军觉得未来大国竞争里,决策速度就是决定生死的关键,绝对不能在应用速度上落后别人,所以铆足了劲往前冲,啥安全问题都先放一边。这种不管不顾去中心化的狂热推广,带来的就是彻彻底底的安全混乱,整个体系乱得像一锅粥。
现在美军各个部门各个军种用的AI工具五花八门,根本不是一套标准。既没有统一的安全验证门槛,也没有严格的情报核查规程。特种部队用一套,海军用另一套,情报部门甚至拿商业大模型改改就直接上手用。不同工具的准确性和稳定性差得离谱,整个决策链条都处于失控的无序状态。
![]()
军事领域一直有“人在回路”的原则,说不管AI算出什么结果,最后下达杀伤指令的必须是人。放到实际场景里,AI几秒钟就能生成海量情报摘要和作战方案,指挥官天天忙得脚不沾地,慢慢就养成了“机器不会错”的自动化偏见。大家都倾向于无条件信AI给出的结果,到最后“人在回路”也就变成了走个形式的摆设。
这次美军在拦截中国商船的前一刻发现被骗,喊停了行动。真到了战云密布、神经紧绷的战场上,算法再出幻觉生成一份假战报,指挥官还能来得及反应,还能保持理智做出正确判断吗?
![]()
算法本身没有良知,也不懂敬畏战争和生命,它只负责按概率生成文字。如果一味盲目追求所谓的决策速度,把最基本的核查和判断都丢给机器,当下一次真正的危机来临,可就不一定还有最后一秒喊停的好运气了。
参考资料:环球时报 AI虚假情报险致银河号事件重演
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.