上海
财联社10月13日讯（编辑 李莹）AI自我复制门槛正从大型数据中心下沉至普通终端设备。Anthropic研究团队近日测试发现，小模型已可通过传递笔记实现跨代学习，未来数月或拥有自主复制能力。这类AI蠕虫扩散速度偏慢、现实中仍有防御手段，但风险已不容忽视。
AI蠕虫指由AI模型驱动、能在无人干预的情况下自行寻找联网设备、把自身复制过去并在当地运行，再继续向下一台设备扩散的自主程序。
当地时间10月12日，Claude开发商Anthropic旗下研究团队Frontier Red Team发布研究称，其实验表明，小型AI模型可能只需数月，就能具备在商用物联网设备上自我复制的能力，如智能烤箱和非知名品牌安卓电视盒。
来源：Anthropic官网
研究指出，这类复制体难以清除，因为不存在可集中关停的节点。与传统恶意软件不同，它们还能自行摸索陌生设备的运行方式。
为验证设想，研究人员购入15台单价约55美元的非知名品牌安卓电视盒，每台内存4GB。通过把模型拆分到不同设备上分段运行，这组电视盒成功运行了谷歌260亿参数开源模型Gemma4-26B-A4B，生成速度约为每秒0.39个token。
来源：Anthropic官网
在“搭建运行环境”这一关键环节，小模型表现出较强适应力。在测试的9类硬件中，一个90亿参数模型在其中8类上成功部署了推理服务。
不过，从发现目标到完成复制的完整链条，对小模型仍有难度。研究称，300亿参数以下的模型已能完成复制所需的许多单个步骤，但串联执行时容易出错。
在由8个运行安卓模拟器的云端节点组成的简化隔离环境中，所测开源模型里只有智谱旗下的GLM-5.2能端到端完成复制流程，5次试验中有4次覆盖了全部8个节点。研究解释，测试旨在衡量：若小型模型具备同等能力，能否完成复制。
Anthropic根据历史进步速度推算，参数在300亿以下的小模型有望在今年底达到GLM-5.2的能力水平，基于小模型的自我复制体可能随后出现。研究指出，这只是粗略估计。
更值得警惕的是，这类复制体还能“代代相传”地积累经验。在部署推理服务的测试中，阿里巴巴旗下Qwen3.5-9B每一代都会记录失败教训并传递给下一代，部署成功率从首代的45%提升至后续各代的61%至84%。
威胁有多大？
研究认为，这类复制体的传播会相当缓慢。以Qwen3.5-9B为例，研究估算，其在电视盒上完成一次推理环境搭建约需28至51小时。
研究以曾感染超200万台设备的物联网僵尸网络Kimwolf为参照估算，同等规模的受感染电视盒可运行约13.3万个模型副本，但总算力最多仅相当于约40块英伟达H100芯片。
研究将其比作“数字黏菌”，速度慢，但顽强、分散。
防御上，研究认为局面并非无解。大规模复制会产生明显的网络流量异常，便于运营商识别。此前应对Mirai僵尸网络时，曾有运营商通过隔离并通知受感染用户，在14天内清除了92%的感染。
Anthropic表示，就像2024年的编程智能体一样，AI蠕虫已显露出早期迹象。尽管完整的失控复制体尚未出现，但应提前加固系统，让此类复制体难以扩散。
（财联社 李莹）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
