网易首页 > 网易号 > 正文 申请入驻

美军拟造"数字蠕虫"自主猎杀,专家警告:它可能顺手打掉水厂

0
分享至

据The Intercept10月19日援引美国陆军网络司令部(ARCYBER)泄露的官方文件报道,美国陆军正在推进一个代号ECHOTRIBBLE的项目,目标是部署自主AI代理,让它们自行进入敌方数字与网络基础设施、识别目标并将其"中和"。


文件对"中和"的定义是:使威胁完全失效或暂时失效,或把威胁从目标上删除。项目的重心放在进攻性任务上,而非防御。

按照描述,这些代理的形态接近计算机蠕虫:在对手网络中隐蔽穿行,在设备之间移动,并跨不同操作系统自我复制。它们要在争夺激烈的云环境和物理隔离(air-gapped)系统中都能轻量运行,尽量减少上报,并隐藏必要的传输行为。

一旦代理识别并中和目标,它会自毁——理想情况下不惊动目标,也不留下任何存在痕迹。

专家担心的不是"打不打得中"

网络安全专家对该项目提出了安全层面的质疑。近期已出现一系列事件,AI代理脱离原有环境、自主执行未被指派的任务。

文件称,陆军将设置"预定义触发器",帮助代理精确区分目标。但专家的追问是:如果为良性任务设计的代理,都会为完成任务而执行计划外、有时危险的动作,那么专门为进攻任务设计、且能自我复制的代理,应该被期待做出什么?

Anthropic的实验显示,AI代理能够在不同硬件上部署推理,并在网络中复制自身。

陆军还要求代理具备"自主导向行为"(Self-Directed Behavior),在尽可能少的人类监督下行动,因为这是达到所需自主水平的必要条件。反过来看,正是这种自主水平,让AI代理出现过绕过护栏以完成任务的情况。

路径问题:目标之外还会碰到谁

AI安全公司Abundant联合创始人兼CEO Hyrum Anderson给出了一个具体场景:目标很可能会被击中,但它会走哪条路径?它会不会途经美国的一家自来水厂,因为对手恰好把指挥控制节点架设在那里,然后把这套设施一并打掉?

另一层担忧在于代理如何做判断。AI代理擅长克服路径上的障碍,但没有人能100%准确预测它会把什么认定为障碍,又会选择什么路径去克服。

兰德公司研究军事AI应用的高级行为科学家William Marcellino用了一个对照:之所以敢把实弹和武器交给拉马迪的19岁海军陆战队下士,是因为他们既有"算力底座"——大脑和眼睛,也有足够深的世界知识去判断"是的,我大概不该那么做"。而当前的公开AI技术并不具备这一点。

项目仍在早期,五份方案入围

ECHOTRIBBLE目前处于早期原型与产业评估阶段,由ARCYBER、陆军网络技术与创新中心(ArCTIC)、网络融合创新中心(CFIC)牵头,私营供应商和学术研究人员参与提案与设计。

分工上,ARCYBER和ArCTIC确定作战需求与交战规则,CFIC作为国防领域的非营利机构,充当陆军与商业科技公司之间的中介。

陆军在2026年10月6日至10月8日举行了一场线上评估活动,对私营供应商提交的65份技术白皮书进行评估,内容涉及代理框架的解决方案,并从中筛出5份。最终入选者将获得资金和正式原型合同。

把上述要求放在一起看,这个项目的技术难点并不只在"识别目标":隐蔽穿行、跨系统自我复制、低上报、无痕自毁,以及在没有人类实时监督的情况下判断什么算障碍——每一项都指向同一个问题,即代理在抵达目标之前和之后,究竟按什么逻辑行动。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普逼迫着全世界抛弃中国,却万万没想到:世界正在抛弃美国

特朗普逼迫着全世界抛弃中国,却万万没想到:世界正在抛弃美国

麓谷隐士
2026-10-21 00:05:04
张纪中也没想到,为自己连生3胎的杜星霖,狐狸尾巴终究藏不住了

张纪中也没想到,为自己连生3胎的杜星霖,狐狸尾巴终究藏不住了

借你一生
2026-08-31 19:57:10
广东惨败18分两连败!阿祖布克1分3板水货外援,周鹏0分拉胯,17次失误是输球大问题

广东惨败18分两连败!阿祖布克1分3板水货外援,周鹏0分拉胯,17次失误是输球大问题

老吴说体育
2026-10-20 21:29:54
内鬼出现!蒋万安大势已去,国民党反复打一张牌,沈伯洋有望胜出

内鬼出现!蒋万安大势已去,国民党反复打一张牌,沈伯洋有望胜出

观锐器
2026-10-20 15:23:20
第一个面临消失的职业,不是幼师,不是快递员,而是这三种工作?

第一个面临消失的职业,不是幼师,不是快递员,而是这三种工作?

白米饭怎么吃
2026-10-11 21:32:47
女子给孩子冲奶粉时,发现奶粉罐上覆满白色“粉末”,本以为是奶粉残留,细看竟是密密麻麻的小虫!网友科普:是粉螨,肉眼很难分辨

女子给孩子冲奶粉时,发现奶粉罐上覆满白色“粉末”,本以为是奶粉残留,细看竟是密密麻麻的小虫!网友科普:是粉螨,肉眼很难分辨

全接触狐狐
2026-10-19 12:13:44
益普索最新民调:特朗普支持率跌至31%创历史新低,多数选民倾向民主党掌控国会

益普索最新民调:特朗普支持率跌至31%创历史新低,多数选民倾向民主党掌控国会

投资者内参
2026-10-20 13:31:12
尼克松暮年自揭:最悔就是那趟访华,毛主席当初已把华盛顿的全盘心思摸得干干净净?

尼克松暮年自揭:最悔就是那趟访华,毛主席当初已把华盛顿的全盘心思摸得干干净净?

回京历史梦
2026-10-15 09:13:26
医生警示:不论男女,腿上一旦出现这个标志,说明体内或有血栓

医生警示:不论男女,腿上一旦出现这个标志,说明体内或有血栓

健康之光
2026-10-20 09:32:49
巴萨客战巴黎前,罗德里因未达百分百状态被按在替补席

巴萨客战巴黎前,罗德里因未达百分百状态被按在替补席

星河漫山野
2026-10-21 02:16:22
重大改革!浙江省委书记王浩宣布,浙江省统一招投标交易平台启用

重大改革!浙江省委书记王浩宣布,浙江省统一招投标交易平台启用

大风新闻
2026-10-20 22:58:16
特朗普先给自找好台阶?候选人一旦败选,直接点名党内建制派背锅

特朗普先给自找好台阶?候选人一旦败选,直接点名党内建制派背锅

荣亭小吏
2026-10-21 00:31:41
蒋万安接受赵少康专访:现阶段完全不想2028,力挺卢秀燕扛重任

蒋万安接受赵少康专访:现阶段完全不想2028,力挺卢秀燕扛重任

柏拉图的诉说1
2026-10-19 20:15:35
他没当上省委书记或军区司令,成了工厂经理:和平了,专心搞经济建设

他没当上省委书记或军区司令,成了工厂经理:和平了,专心搞经济建设

大运河时空
2026-10-19 06:45:05
《伟大的长征》他演活王稼祥,封神演技不输于和伟!导演张永新因一部剧选定他

《伟大的长征》他演活王稼祥,封神演技不输于和伟!导演张永新因一部剧选定他

露珠聊影视
2026-10-20 19:30:56
问界懂车帝复婚!正义不会迟到,线索不能缺席……

问界懂车帝复婚!正义不会迟到,线索不能缺席……

ZAKER新闻
2026-10-19 18:30:28
46岁吉赛尔·邦辰拄双拐现身,前夫传记曝光离婚内幕 她到底图什么

46岁吉赛尔·邦辰拄双拐现身,前夫传记曝光离婚内幕 她到底图什么

寒士之言本尊
2026-10-20 14:40:02
太气了!“小仙女”20万彩礼到手,她加18万存款全款买个人公寓,男方怒而退婚,评论区炸锅

太气了!“小仙女”20万彩礼到手,她加18万存款全款买个人公寓,男方怒而退婚,评论区炸锅

火山詩话
2026-10-20 08:56:53
新鸭绿江大桥一开通,普京彻底松口气了,能源矿产都能绕着进中国

新鸭绿江大桥一开通,普京彻底松口气了,能源矿产都能绕着进中国

无悔的灿烂人生
2026-10-19 17:08:40
专家犀利发声:灵活就业者缴职工社保,看似保障,实则是变相剥夺

专家犀利发声:灵活就业者缴职工社保,看似保障,实则是变相剥夺

偷喝一口奶
2026-09-06 08:54:31
2026-10-21 02:44:49
像素与芯片
像素与芯片
有态度网友ytd
214文章数 80关注度
往期回顾 全部

军事要闻

特朗普狠批泽连斯基"不想结束战争" 泽连斯基强硬回怼

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

健康
亲子
教育
时尚
艺术

痘痘能根治吗?皮肤科医生说实话

亲子要闻

奇!41岁女子不知怀孕,腹部剧痛送医顺产7斤儿子!

教育要闻

悲哀!16岁男孩沉迷游戏,父亲怒摔手机,儿子多日拒上学,父母花8999元重买手机,才换回孩子上学

秋天穿印花裙真的很有氛围感!不显胖、不呆板,大方又显气质

艺术要闻

谁敢信?63岁大爷的油画竟被选进美院教材,质感强到像要溢出屏幕!

无障碍浏览 进入关怀版