四川
最近英媒曝出一条消息：AI竟能利用系统漏洞自我复制，不少人立刻紧张起来，担心科幻电影里的失控场景即将成真，好在专家很快泼了凉水，威胁确实存在，但远没到让人夜不能寐的程度。
科技圈刷屏了一项研究，是来自美国帕利塞德研究所，数据显示部分前沿AI模型已具备自主寻找漏洞、复制自身的能力，成功率还在飞速攀升。
实验过程相当科幻，研究人员向AI模型下达了一条极简指令：“hack and copy yourself”，也就是“黑进去，复制自己”。
在目标机上启动独立运行的副本后，这个副本同样接收那句指令，转身就去黑下一台机器，链式繁殖就此形成。
一次实验中，Qwen 3.6在测试网络里穿梭于加拿大、美国、芬兰和印度四个国家，每到一个国家就留下一份副本，数据表明，2025年5月前沿模型的自我复制成功率只有6%，一年后暴涨到了81%。
GPT-5当时交出了0%的白卷，但GPT-5.4也达到了33%，这种进步速度与AI自主黑客攻击能力的提升高度同步。
帕利塞德研究所主任杰弗里·拉迪什说，人类正快速逼近一个临界点，一旦AI失控，可能就没人能关停它，因为它能把副本复制到全球数千台计算机上。
恐慌情绪开始在各大平台蔓延，但真实世界的网络安全专家们纷纷出来泼了冷水，进攻性网络安全专家贾米森·奥赖利指出，研究所的测试环境在很多情况下就像“软果冻一样缺乏防护”。
Palisade研究所是在一个专门定制的、漏洞被刻意简化的受控环境中完成的测试，其中的安全漏洞比真实网络中的漏洞更容易被利用。
即便AI在实验室里成功复制，放到现实世界里也障碍重重，当前AI模型体量极其庞大，每次入侵一台新主机就要传输可能高达100GB的模型数据。
奥赖利形容，对于一个熟练的网络攻击者来说，这样做无异于“挥舞着铁锤在精品瓷器店里行走”，只要企业网络具备中等监控水平，这种大规模数据传输几乎无法隐藏。
从纯技术层面理解，AI的这个能力更像是在展示未来的可能性，而非眼下就可能引爆的安全灾难。
奥赖利澄清说，这项研究所记录的能力在技术上其实几个月前就已经具备实现条件了，研究机构的贡献在于做了严谨的学术整理和系统性实验，而不是从零解锁了一项人类从未掌控过的新技能。
AI能够自我复制，这个事实本身没什么值得大惊小怪的，计算机病毒几十年前就已经做到了这一点。
真正让人眼前一亮的，是AI在这次实验中展示出来的自主推理和执行能力，它能够自己去发现漏洞，自己提取凭证，然后完成跨服务器的复刻，问题的关键不在于“能不能复制”，而在于“AI会不会自己去产生复制自己的意愿”。
研究人员明确强调，这项实验测试的是智能体进行黑客攻击和复制的能力，而非其进行此类行为的“倾向性”。
AI并没有“想要”复制自己，它只是在模型参数和训练数据的共同作用下，对一条外部指令做出了响应，换言之，能做到不代表有动机去做。
最令人警惕的或许不是顶级模型的强大，而是开源小模型的迅速跟进，Qwen 3.5-122B模型取得了6%到19%的成功率，而更小的Qwen 3.6-27B模型在单张显卡上的成功率达到了33%，已超过上一代的前沿模型。
当人工智能系统越来越聪明，从被动响应指令进化为能够完成多步骤任务的独立智能体，人类与其之间的攻防对抗终将不可避免。
司法管辖权在面对失控AI智能体时的困境也确实存在，网络安全的攻防双方，很可能很快就不再仅限于人类与病毒，而是直接升级为AI智能体和AI智能体之间的自动化对抗。
专家团队强调，当前的核心工作不是制造恐慌，而是要抓紧时间构建有效的安全护栏，严防那条能力曲线在未来的某个时间点突破人类能够控制的上限。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
