AI 要自己复制自己了！Anthropic 发出警告

2026 年 10 月 13 日，Anthropic 发布最新研究报告称，小型 AI 模型可能在未来数月内具备自主复制能力，无需依赖数据中心 GPU，就能利用智能电视盒子等普通物联网设备运行自身，并向其他设备传播。

Anthropic 警告，这类 AI 蠕虫一旦出现，可能难以彻底清除。

由于不存在统一的控制中心，即使部分感染设备被关闭，其他设备上的模型仍可能继续运行和传播。

不过，研究人员目前尚未实现完整的自主复制系统。

这项研究由 Anthropic 前沿红队的 William Zhou 和 Daniel Freeman 完成，主要评估 AI 模型在普通联网设备上运行推理服务，以及自主传播至其他设备的可行性。

研究人员购买了 15 台售价约 55 美元的廉价 Android 电视盒子，每台配备 4GB 内存，通过分布式推理技术，成功运行了拥有 260 亿参数的 Gemma4-26B-A4B 模型。

测试显示，这套系统的推理速度约为每秒 0.39 个 Token，验证了普通物联网设备通过协同计算运行 AI 模型的可行性。

研究人员还测试了不同开源权重模型在陌生硬件上部署推理服务的能力。

其中，一款 90 亿参数模型成功在 9 类测试硬件中的 8 类上部署推理服务，测试涉及 Jetson Nano、Mac 电脑和 RTX 4090 等硬件，主要考察模型自主配置推理环境的能力。

更引人关注的是，智谱 GLM-5.2 成为此次受测开源权重模型中，唯一能够在简化实验条件下可靠完成端到端传播流程的模型。

Anthropic 在 Google Cloud 上建立了一个包含 8 个节点的隔离测试网络，使用 Android 15 模拟器测试 AI 蠕虫在设备之间传播的能力。

在 5 次测试中，GLM-5.2 有 4 次成功覆盖全部 8 个节点，另外一次覆盖了 7 个节点。

其他受测开源权重模型均未能可靠完成整个传播流程。

不过，这项实验并不代表 GLM-5.2 已经具备真实环境中的自主复制能力。

测试节点开放了无需身份验证的 ADB 接口，简化了入侵环节。

同时，GLM-5.2 的模型推理运行在独立服务器上，负责在目标节点部署 Llama3.1-8B 推理服务。

完成验证后，测试框架才会启动新的传播程序实例，并未实现模型在目标设备上独立运行和复制。

Anthropic 还进行了另一项涉及 17 个节点的模拟传播测试。该实验进一步简化了条件，通过预设脚本完成推理环境部署，主要评估模型在网络中的传播能力。

测试结果显示，Qwen3.5-9B、Ministral-14B、GLM-5.2 和 Claude Opus 4.8 均成功覆盖全部 17 个节点。其中，Claude Opus 4.8 经过 2 代传播完成任务，其余三款模型经过 3 代传播完成任务。相比之下，Ministral-3B 和 Gemma4-26B-A4B 分别经过 2 代和 3 代传播，均覆盖了 9 个节点。

不过，由于推理环境部署由脚本完成，这些结果不能直接与此前需要模型自主完成部署任务的 8 节点实验比较。

Anthropic 的 17 节点模拟传播实验：Qwen3.5-9B、Ministral-14B、GLM-5.2 和 Claude Opus 4.8 均成功覆盖全部节点，Ministral-3B 和 Gemma4-26B-A4B 分别覆盖 9 个节点。

Anthropic 认为，实现真正的自主复制，需要同时满足两个条件：

1）模型必须具备足够的智能水平，能够完成设备发现、程序部署和推理环境配置；

2）模型规模还必须足够小，能够在普通物联网设备上运行。

目前，受测小型模型尚未同时满足这两个条件。

研究人员分析了参数量不超过 300 亿的开源权重模型的历史性能增长趋势，发现这一类别中领先模型的 Epoch Capabilities Index（ECI）能力指数平均每年提高约 13.7 分。

按照这一趋势推算，到 2026 年底，小型模型可能达到 GLM-5.2 在此次实验中展现的能力水平，随后可能出现能够自主复制的轻量级 AI 蠕虫。

不过，ECI 属于通用模型能力指标，并非针对自主复制能力的直接测量，因此这一预测存在不确定性。

研究还发现，AI 模型能够通过继承此前运行实例留下的经验改善表现。

在另一项实验中，Qwen3.5-9B 连续经历了 6 代测试，每一代都可以继承前一代的操作记录和失败经验。其推理环境部署成功率从第一代的 45%，提高至后续几代的 61% 至 84%。

研究人员还测试了更强模型提供帮助的效果。

结果显示，即使允许 Qwen3.5-9B 向 Claude Opus 4.8 寻求建议，其推理环境部署成功率也没有得到可测量的改善。

Anthropic 认为，未来可能出现大型模型负责整体策略、小型模型执行具体任务的协作方式。

普通物联网设备的计算能力仍然是 AI 蠕虫自主传播的重要限制。

Anthropic 根据测试获得的推理速度和任务工作量估算，在相应硬件条件下，Qwen3.5-9B 完成一次推理环境部署任务可能需要约 28 至 51 小时，Gemma4-26B-A4B 则需要约 71 至 150 小时。

这些数字属于模型计算耗时估算，并非真实网络中的自主传播耗时。

研究人员还以曾感染超过 200 万台设备的 Kimwolf 僵尸网络为参照进行估算。

如果拥有同等规模的电视盒子集群，每 15 台设备运行一份 Gemma4-26B-A4B 模型，理论上可以部署约 13.3 万个模型副本。

在每组设备同时服务两个智能体的假设下，整个集群的推理吞吐量约为每秒 8 万个 Token，最多相当于 40 张英伟达 H100 GPU 的推理能力。

这一估算基于假设场景，并非已经发生的 AI 蠕虫感染事件。

研究人员认为，早期 AI 蠕虫可能传播缓慢，90 亿参数模型完成一次复制可能需要一至两天，但仍可能长期存在并逐步扩散。

Anthropic 还在报告附录中分析了搭载 AI 加速器的边缘设备。

研究人员根据产品部署数据粗略估算，全球约有 950 万台采用英伟达芯片的物联网设备，涉及约 90 个产品系列，总计算能力可能相当于 9000 至 3.5 万张 H100 GPU。

不过，大多数设备无法通过公网直接访问，实际能够远程访问的算力可能比这一估算低一个数量级以上，而存在可利用漏洞的设备规模还会更小。

针对潜在风险，Anthropic 建议网络运营商加强异常流量监测，设备制造商提高默认安全配置。模型权重传输可能产生数 GB 的数据流量，跨设备分布式推理也可能造成异常的设备间通信，为发现和阻断传播提供线索。

研究人员指出，随着小型模型能力提升，以及物联网设备计算能力增加，未来可能出现能够在不同硬件之间自主传播、无需人类持续控制的 AI 智能体。

云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。