辽宁
欧洲 AI 安全非营利机构 SaferAI 近日发布了一份针对智谱开源旗舰模型 GLM-5.2 的独立风险评估报告。
测试人员通过公开 API 对其进行了全面审查，发现该模型在网络安全与生物风险等高危任务中展现出了极高能力的攻防倒挂现象。
这种能力逼近行业前沿却缺乏相应拦截机制的现状，将开源大模型的安全治理隐忧推到了风口浪尖。
当开源社区的迭代节奏以月为单位狂飙时，传统的安全防御红线正面临前所未有的失效危机。
攻防倒挂与拒答缺失：开源前沿模型的技术双刃剑
开源模型在加速全球技术普惠的同时，也衍生出不可逆的安全下泄风险。
一旦底层权重文件全面开放，用户不仅可以在本地设备上免费运行，更能轻松剥离服务端设定的防护藩篱。
在 SaferAI 涵盖网络攻击、生物危险品、失控风险及恶意操纵的测评中，GLM-5.2 的攻击性表现超出了许多研究人员的预期。
测试数据显示，该模型在面对大量网络越权漏洞识别与攻防实验任务时，取得了极高的成功率。
然而令人不安的是，模型在面对危险性极高的潜在破坏指令时，却几乎没有表现出任何拦截拒答倾向。
这种零拒答的态度，意味着恶意使用者能够以极低的门槛获取高致害性的攻防代码与专业知识。
对比闭源前沿模型可以发现，安全基线构成了巨大的生态断层。
例如 Anthropic 的 Claude 系列在检测到高危提示词时会频繁触发安全拒答机制，甚至导致部分测试基准无法顺利跑完。
而在缺少外部脚手架辅助的裸机测试中，GLM-5.2 展现出的网络漏洞挖掘效能甚至赶超了部分主流 Agent 系统。
这种高攻击输出与低安全防御的倒挂现象，极大地增加了技术被滥用的风险。
治理真空与合规硬伤：开源生态面临的终极考验
除了模型内嵌安全防护机制的匮乏外，研发企业的合规治理承诺同样存在明显的断层。
测评团队指出，智谱在模型发布前并未公开披露系统性的安全风险评估报告，也缺乏完善的前置测试承诺。
在欧盟《通用人工智能行为准则》日益严苛的监管背景下，缺乏风险管控的模型将面临沉重的合规压力。
尽管部分厂商会在云端 API 服务中部署外挂式审查网关，但这对于拿到开源权重的用户而言形同虚设。
使用者只需在本地对权重进行简单的微调，就能彻底抹去云端网关建立的所有安全围栏。
这种物理层面的失控隐患，使得传统的安全事后补救措施显得苍白无力。
全球安全专家普遍认为，单纯追求参数规模与跑分成绩而牺牲安全红线，可能会给整个开源行业带来灾难性打击。
当开源模型的能力足以辅助复杂攻击时，监管机构的严厉制裁便会不期而至。
当前全球 AI 产业链的当务之急，是构建跨国界的红队测试标准与开箱即用的安全对齐方案。
唯有将安全拦截机制深植于模型预训练与对齐阶段，国产开源大模型才能在狂飙突进中实现真正的稳健远航。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
