四川
当地时间10月12日，人工智能公司Anthropic发布报告警告，部分AI模型可能在数月内获得“自我复制”能力，入侵智能冰箱、扫地机器人等联网设备，并借助这些设备运行。
一旦失控的AI通过网络不断扩散，人类将很难将其彻底关闭，因为届时可能已没有一个能够统一关停它的控制点。
这意味着，失控的AI可能不再依赖数据中心，而是分散在家庭或企业的联网设备中运行。研究人员将这类能够自主行动、不断复制和传播的恶意软件称为“人工智能蠕虫”。
▲Anthropic 联合创始人兼首席执行官（CEO）阿莫代伊 （资料图）
巨头警告：AI自我复制后，
家庭和小型企业或成攻击目标
据悉，报告由Anthropic负责测试AI能力与安全风险的“前沿红队”编写。在测试中，研究人员向AI智能体下达了入侵联网设备的指令，以探索其实现自我复制的可能性。
研究人员发现，这种自我复制可能只有较小规模的AI模型才能实现，而家庭和小型企业很可能成为首批攻击目标。除了智能冰箱和扫地机器人，报告列出的易受攻击设备还包括智能烤箱、智能电视、自动割草机、监控摄像头和视频会议设备。这些设备均内置小型AI芯片，可能为模型提供运行所需的条件。
真正让研究人员担忧的是后续扩散：一旦失控的AI具备入侵这些设备的能力，就可能一边躲避检测，一边通过网络传播。在最坏的情况下，多种“人工智能蠕虫”还可能成群集结，共同攻击计算机硬件。
“这种能够自我复制的模型将很难被关闭，因为不存在一个可以将其统一关停的集中控制点。”研究人员在报告中写道。他们呼吁加强系统防护，阻止此类程序传播，同时也要为它们可能长期存在做好准备。
专家质疑：
论文很有趣，但明显夸大
这份报告发布之际，外界对AI自主行动能力的担忧持续升温。过去几个月，Anthropic和OpenAI等公司接连发布报告，称其AI智能体能够自主行动，并入侵其他企业及政府机构的系统。
相关风险促使研究人员、立法者和企业高管呼吁放缓AI发展步伐、加强安全约束，发出呼吁的人士包括Anthropic首席执行官阿莫代伊和OpenAI首席执行官奥尔特曼。不过，两家公司仍在持续快速开发和发布新模型。
不过，一些网络安全专家对此持怀疑态度。英国国家网络安全中心前负责人马丁表示，成功让小型AI模型在廉价电视上运行，并不意味着出现了一场安全危机。他认为，这是一篇有趣的技术论文，但带有相当明显的厂商夸大成分。
红星新闻记者 杨诗柔
编辑 邓旆光
审核 冯玲玲
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
