刚刚,Anthropic 发布了一份研究报告,主角是国内智谱 AI 开源的最新大模型——GLM-5.3。
![]()
Anthropic 在隔离沙箱中进行了严苛的测试,结果显示, GLM-5.3 展现出了惊人的网络攻击与自动化漏洞利用能力,但其安全防线却极其脆弱,能被简单手段轻易剥离。
报告使用了两项关键指标来衡量模型编写漏洞利用代码的能力。
在针对 Chrome V8 引擎(浏览器核心组件)的 ExploitBench 测试中,GLM-5.3 取得了 12% 的成功率,直逼 Anthropic 内部极强但受限放出的 Claude Mythos Preview(14%),而此前版本的模型成功率基本接近于 0。
在 Anthropic 自己的二进制漏洞利用测试中,两者成功率分别为 4% 和 6%。
实际攻击演示则更为直观。
研究人员让 GLM-5.3 在一天内找出了某主流浏览器 JavaScript 引擎中的多个零日漏洞(0-day),并将其串联成一个恶意网页:用户一旦打开,电脑里的任意文件就会被窃取。
在另一次测试中,较小版本的模型针对已公开漏洞编写攻击代码,人类仅干预 20 分钟,模型工作 8 小时,花费仅 20.40 美元。看来,自动化、高效率的漏洞利用已不再是科幻场景。
比强大黑客能力更令人担忧的,是其安全防御机制的“失守”。
智谱 GLM-5.3 本身会拒绝明显的恶意请求,但报告测试了三种极易实现的越狱和绕过手段。
编造一个“红队演练”等正当理由骗它,诱导成功率达 64%;预先替它写好一段“攻击推理”开头,成功率飙升至 92%;直接修改模型权重去除拒绝机制(abliteration),成功率更是高达 100%。
相比之下,带有 API 防护的 Claude 模型在同样的恶性诱导面前全部保持了零响应。
![]()
破解和改造这类开源权重的门槛同样低得惊人。
Anthropic 团队仅用了约 2200 个 GPU 小时、耗费约 4400 美元,就把 GLM-5.3 对有害请求的拒绝率从 95% 直接打到了 6%,且模型的通用能力基本未受影响。
更小版本的 GLM-5.3-Flash 改造,甚至只需约 600 个 GPU 小时。
美国 AI 标准与创新中心(CAISI)评估认为,GLM-5.3 在网络攻防能力上,仅比美国最前沿模型落后约 4 个月。
但正如 Anthropic 所警示的,两者的获取门槛完全不同。像 Mythos Preview 这类顶级模型只通过专属项目提供给经筛选的网络防御方,而 GLM-5.3 作为开源权重,任何人都能无门槛下载和改造。
报告最终建议政府应加大对强力模型的安全测试,并将前沿模型更多开放给防御机构,同时要求开发者对此类“武器级”能力进行更严格的防范。
此前关于 AI 安全的话题基本都说的是闭源模型,这里对开源模型的报告,算是打开了另一面窗户。
开源社区该如何在技术共享与防范技术滥用之间找到平衡,应该也是全球 AI 行业必须面对的严肃课题。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.