网易首页 > 网易号 > 正文 申请入驻

预警:AI蠕虫出现生命迹象?电视盒也能运行小模型,AI风险正在变

0
分享至



一台不起眼的电视盒,平时用来播放电影、看网络节目。如果有它还可能成为AI运行的地方,甚至被用来帮助某个程序继续向其他设备扩散,那会怎么样?

开发Claude的美国人工智能公司Anthropic最近发布的一项研究,在报告结尾使用了一个很容易引发联想的表述,AI蠕虫正在显露早期“生命迹象”。

那么,一个能够执行任务的AI程序,是否有可能离开最初的运行环境,在其他机器上建立新的运行位置,并继续扩散?

计算机蠕虫的特殊之处,在于它可以从一台机器向另一台机器传播,减少对人工操作的依赖。AI参与其中以后,研究者关心的是,它能否根据遇到的环境调整行动。



2026年6月公布的一篇相关预印本研究,就展示了利用AI智能体适应不同目标的计算机蠕虫。研究覆盖Linux、Windows和物联网设备,强调系统能够根据目标生成不同策略。

这里需要分清三个问题。程序能不能复制,属于软件行为。程序能不能根据环境改变办法,属于任务能力。程序有没有感受、意识和生命,属于另一组科学与哲学问题。前两项即使成立,也不能直接证明第三项。

我们真正需要警惕的是执行能力带来的后果,一个程序不必知道什么叫恐惧,也可能执行维持运行的任务。

这次研究中,研究者把模型运行位置从昂贵服务器搬到了廉价设备上。

他们使用15个电视盒,每个约55美元、配备4GB内存,分布式运行一个260亿参数模型,演示速度约为每秒0.39个词元(token)。

速度显然不快,这样的配置,距离我们习惯的流畅聊天体验很远。但这表明,运行模型并不总要把全部计算放进一台高性能机器。

可以把分布式运行理解为多台设备共同完成计算,每台承担部分工作,设备之间交换中间结果,最终形成输出。



因此,电视盒演示的意义是证明某种运行方式可行。它不能证明随便把家里几件电器连起来,就能组成高效AI集群。

对持续运行的程序而言,速度慢和没有能力,仍是两回事。人和AI聊天,希望几秒钟得到回答。一个后台任务如果允许等待,它对响应速度的要求就可能不同。只要任务能够继续推进,耗时较长未必会让它失去意义。

Anthropic报告中,一个90亿参数模型在9类硬件中的8类上完成了推理服务部署。完整链路测试则使用了简化环境,GLM-5.2在5次试验中的4次覆盖全部8个节点。



人类安装软件时,也会遇到版本冲突、路径错误和兼容问题。区别在于,人可以凭经验识别什么时候应该停下来,什么时候需要换一种办法。

AI如果反复坚持错误解释,就可能在同一个问题上消耗大量时间。它表现得很忙,却没有真正接近目标。所以,让副本继续工作是很难的。

因为能力与运行成本之间的关系,可能改变风险出现的位置。一个功能很强、却只能依赖大型计算设施运行的系统,与一个能力稍弱、但能在普通终端上运行的系统,控制方式并不相同。前者的活动更依赖特定基础设施,后者的部署位置可能更加分散。

已有AI蠕虫研究指出,使用被控制机器上的开放权重模型,可能绕过依赖商业AI服务实施的集中限制。这是运行架构带来的问题,不是模型规模小就具备的能力。



由此可以推断,如果具备相关能力的模型越来越容易部署,管理者需要关注的设备范围也会扩大。

Anthropic将小模型达到相关能力门槛的时间估计在2026年底附近,但明确说明这是依据历史进步趋势作出的粗略推算,并非确定发生的时间表。

这次预警并不是凭空出现的,物联网设备被大规模控制,早已有现实案例。

2017年发表在USENIX安全会议上的Mirai研究,对这一僵尸网络进行了回顾分析。研究记录的感染规模高峰约为60万台,主要涉及嵌入式和物联网设备,并造成了大规模分布式拒绝服务攻击。

这个案例告诉我们,设备单台性能有限,但多台聚集以后可能会造成影响。

普通用户购买摄像头,是为了看护家庭。购买电视盒,是为了播放内容。但设备一旦被他人控制,它的联网能力就可能服务于完全不同的目的。



而设备原本的功能,未必马上停止,这也是终端安全容易被忽视的原因。很多人判断设备是否正常,只看它能不能继续使用。电视还能播放,摄像头还能显示画面,就认为一切没有问题。

AI带来的新增问题,是自动化系统可能更善于处理不同环境。如果制造商有没有持续提供更新设备软件,默认设置是否安全?

这次研究表明,AI能力与终端安全之间的关系需要被重新审视。不需要先证明AI有意识,才能讨论它的运行风险。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
体检报告中,若3个指标都正常,基本可以排除很多疾病

体检报告中,若3个指标都正常,基本可以排除很多疾病

芹姐说生活
2026-05-08 19:06:29
严惩台独首恶!立刻抓捕通缉犯沈伯洋!

严惩台独首恶!立刻抓捕通缉犯沈伯洋!

再战五百回合
2026-10-14 21:40:21
7000亿建总部?广州一公司备案项目“投资额高得离谱”,目前已撤回

7000亿建总部?广州一公司备案项目“投资额高得离谱”,目前已撤回

红星资本局
2026-10-15 19:01:09
美宇航员登月后变不正常,死前直言:人类不应该踏足远方

美宇航员登月后变不正常,死前直言:人类不应该踏足远方

第四思维
2025-07-31 18:47:40
嫁到乌克兰的华人感慨:别听媒体吹牛,乌克兰相当于我国三线城市

嫁到乌克兰的华人感慨:别听媒体吹牛,乌克兰相当于我国三线城市

凡知
2026-10-15 12:05:49
沪指跌近2%失守3700点,韩国综指暴跌逾8%

沪指跌近2%失守3700点,韩国综指暴跌逾8%

界面新闻
2026-10-15 11:56:04
全球手机出货量暴跌 20%!最新排名:三星第一、华为未进前五!

全球手机出货量暴跌 20%!最新排名:三星第一、华为未进前五!

EETOP半导体社区
2026-10-13 12:49:37
外媒:澳海军一舰艇“供女水兵使用的淋浴设施内发现隐藏式摄像头”,澳军方回应

外媒:澳海军一舰艇“供女水兵使用的淋浴设施内发现隐藏式摄像头”,澳军方回应

环球网资讯
2026-10-15 11:22:15
突然宣布了?中国2套以上房产的家庭,未来房产税或可“这样”征

突然宣布了?中国2套以上房产的家庭,未来房产税或可“这样”征

兴趣知识
2026-10-14 00:45:03
维尼修斯:被换下时确实有点生穆里尼奥的气,但最终他是对的

维尼修斯:被换下时确实有点生穆里尼奥的气,但最终他是对的

懂球帝
2026-10-15 09:29:11
陈妤颉参加效实中学运动会:“亚洲女飞人”变成“校园爱笑小女生”

陈妤颉参加效实中学运动会:“亚洲女飞人”变成“校园爱笑小女生”

开成运动会
2026-10-15 16:51:21
内蒙古诗词学会因派系对立等致运转失灵,被限期停止活动三个月

内蒙古诗词学会因派系对立等致运转失灵,被限期停止活动三个月

澎湃新闻
2026-10-15 12:56:26
曝60岁老戏骨上海独栋别墅,院子大到能踢球,炫富的毛病还是没改

曝60岁老戏骨上海独栋别墅,院子大到能踢球,炫富的毛病还是没改

普陀动物世界
2026-10-15 01:37:07
独家:尊界用注销的检测中心出具的报告忽悠大众,居心何其叵测?

独家:尊界用注销的检测中心出具的报告忽悠大众,居心何其叵测?

微评社
2026-10-13 15:59:35
震惊!老干妈营收54亿,拣椒岗600人剩48人,其智能化被网友怒斥:这有什么值得炫耀的,用AI后工人剩下几十个人,是很光荣吗?

震惊!老干妈营收54亿,拣椒岗600人剩48人,其智能化被网友怒斥:这有什么值得炫耀的,用AI后工人剩下几十个人,是很光荣吗?

火山詩话
2026-10-15 04:58:34
加速血糖高恶化的因素:饮酒排第6,排第1的很多糖友可能天天在做

加速血糖高恶化的因素:饮酒排第6,排第1的很多糖友可能天天在做

芹姐说生活
2026-10-15 17:03:35
“网贷之都”落马,“催收之城”也不远了!

“网贷之都”落马,“催收之城”也不远了!

侃故事的阿庆
2026-10-14 09:41:32
泰王老了,苏提达不装了!开飞机开迈巴赫带条狗,这场日本行太打脸了

泰王老了,苏提达不装了!开飞机开迈巴赫带条狗,这场日本行太打脸了

白露文娱志
2026-10-15 14:32:54
确认不打了!男篮主力锋线拒绝加盟广东队,亚帅痛失侧翼答案?

确认不打了!男篮主力锋线拒绝加盟广东队,亚帅痛失侧翼答案?

绯雨儿
2026-10-15 12:27:21
长实集团:李嘉诚暂不打算公开露面回应

长实集团:李嘉诚暂不打算公开露面回应

第一财经资讯
2026-10-15 15:55:17
2026-10-15 20:00:49
谢纶邮轮摄影
谢纶邮轮摄影
干过5艘游轮,拍过教皇;援过西藏,上过20次布达拉宫。平凡日子拍拍历史的流逝印记
2829文章数 182关注度
往期回顾 全部

科技要闻

核弹院士彭先觉:可控核聚变 不必再等50年

头条要闻

靠3D打印机和中国代工厂 19岁美国少年年营收80万美元

头条要闻

靠3D打印机和中国代工厂 19岁美国少年年营收80万美元

体育要闻

五大联赛第二射手,开着11年前的二手车

娱乐要闻

蒋劲夫晒体脂率引关注,家暴史再被扒

财经要闻

洋餐饮的中国生意:红利消退后的集体交权

汽车要闻

不止大空间/纯电增程任选 小鹏MONA L05来了

态度原创

手机
艺术
数码
旅游
本地

手机要闻

UBI Research:存储器价格飙升挤压其它组件成本,智能手机面临屏幕降级

艺术要闻

董其昌用三年才写完的书法,字字仙气飘飘,康熙评价:古今无人能比!

数码要闻

苹果iMac被射击14次后拆解:主板与500GB硬盘竟完好无损

旅游要闻

“一眼西藏·一生不忘”,同心共绘雪域新篇——2026年西藏文旅“三进”活动年度推介与颁奖活动在京举办

本地新闻

这个十一,林都伊春彻底出圈!

无障碍浏览 进入关怀版