网易首页 > 网易号 > 正文 申请入驻

网络安全成大模型竞争焦点!智谱新模型找到潜伏40年bug

0
分享至

8月14日,智谱官宣发布新一代基座模型GLM-5.3。该模型通过极致的后训练Scaling实现能力跃升,在代码生成、复杂工程执行能力上都取得了突破,在编程与智能体能力逼近海外最强闭源模型Claude Fable 5。另外,在此次发布时,智谱还特别提到,新模型在网络安全能力上也取得重要突破。

漏洞推理能力超Mythos 5,找到潜伏超40年的bug

智谱在此次发布中,特别强调了模型的安全能力。其中,在国际漏洞推理评测CyberGym中,GLM-5.3以84.5%的成绩超过Mythos 5(83.8%)和GPT-5.6 Sol(83.6%),今年4月Anthropic刚发布Mythos 5时该模型的网络安全能力曾引发全球关注。


GLM-5.3在测评中超过Mythos 5、GPT-5.6 Sol

据悉,在上一代模型发布之后,智谱已联合清华大学、南开大学,以及云起无垠、绿盟科技、赛博昆仑、DARKNAVY、奇安信、腾讯玄武等国内头部安全团队,开展了持续密集的红队测试与安全评估,累计发现漏洞2436个(经过初筛、去重),其中1097个为中高危。

在细节上,这些漏洞覆盖系统内核、操作系统、浏览器引擎、互联网协议等269个项目,部分威胁甚至可以让Android、Windows、macOS及国民级通信软件出现大范围崩溃。比如,清华大学NISL实验室与云起无垠安全研究团队借助GLM模型,在诞生于1983年的DNS协议中发现了一类潜伏40余年的关键协议级漏洞。借助GLM-5.3,该底层风险在造成实际损害前被提前识别,并已为DNS系统的修复与加固提供依据。

南都N视频记者了解到,伴随GLM-5.3发布,智谱将同步启动“开源的盾”计划,对重点开源项目开展持续安全审计,向开源社区免费提供用于安全审计和防御任务的模型额度,并在编程工具中提供代码审计功能,让安全检查进入日常研发流程。与此同时,智谱计划将在两周内开源完整模型权重。

智谱方面表示,大模型参与安全研究的价值,在于帮助防守者抢在攻击者之前发现问题、推动修复,把威胁化解在造成实际损害之前。随着模型能力不断增强,安全不能只是能力之外的一道“补丁”,而应当成为基础模型技术演进本身的一部分。模型能力越强,安全约束也必须越稳固,前沿AI应当更多用于发现风险、保护数字基础设施、服务社会公共利益。

大模型安全攻击事件频发,网络安全成为新战场

全球模型正在将安全能力作为最新的竞争点。8月11日,OpenAI已发布了一款名为GPT 5.6 Cyber的新型人工智能模型,专门面向漏洞研究、渗透测试和事件响应等网络安全场景。

厂商集体开始关注模型安全能力,与近期模型摸高智能上限、甚至开始攻击平台的AI安全事件相关。

今年4月,Anthropic在Claude Mythos Preview的System Card中披露,红队演练中模型成功逃逸加固沙箱,随后超出指令范围开启了自主行动,自主给正在公园吃三明治的研究员发邮件报告成果、未经允许将漏洞细节发布到公开网站。

无独有偶,今年7月,OpenAI曾公开承认其模型在一起安全评测事故中攻击了全球最大AI开源平台Hugging Face。在该事件中,GPT-5.6 Sol以及一款能力更强的预发布模型正在参加名为ExploitGym的内部评测,这场内部测试基准包含898个真实软件漏洞利用任务,专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。

当时OpenAI特意降低了生产环境级别的安全机制,鼓励模型尽可能寻找复杂的攻击路径。后续,为完成测试,模型推断Hugging Face可能托管着测试答案,随即便对该平台发动了攻击。

据报道,当时在Hugging Face针对外部攻击的调查中,曾使用商业闭源模型分析攻击日志,但由于模型无法区分使用者是攻击者还是安全人员,相关请求被拒绝,取证一度受阻。随后,Hugging Face将开源模型智谱GLM-5.2部署在自有服务器上,分析超1.7万条事件记录,还原了攻击过程。

该事件也直接引发了行业对模型智能与安全边界的关注。英伟达首席执行官黄仁勋当时就此事件指出,闭源模型阻碍了关键取证,而开源模型帮助控制了事态,“网络安全能力必须更加开放。当攻击者已经拥有前沿人工智能,防御者更需要前沿人工智能生态。”

后续,英伟达联合包括Meta、英伟达、微软在内的25家美国科技公司成立“开放安全AI联盟”、签署公开信《开放权重与美国AI领导力》,呼吁开放权重AI模型。在签署该公开信后,英伟达创始人黄仁勋发布了第一条推特,转发了上述公开信。他在转发语中表示,人工智能将改变每个行业、赋能每个公司并由每个国家构建。开源模型加强安全性和网络安全、加速创新和传播,世界需要前沿闭源模型,也需要前沿开源模型。

然而,尽管开源力量不断呼吁开放,当前全球最前沿的网络安全模型仍主要掌握在少数海外商业闭源公司手中,闭源模型也并未向所有企业和项目开放安全能力支持。比如,OpenAI就表示,其Cyber模型仅向经过审核批准的企业和安全厂商提供访问权限。更早前,Anthropic表明其仅向约150家大型机构提供Mythos模型及配套安全服务。

另外,对基础模型公司而言,下一阶段的竞争已不仅是模型能力之争,更是高价值场景之争。目前,除了Coding Agent、企业服务以外,模型的安全能力也成为新的竞争点。

采写:南都N视频记者 林文琪

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
整容33次成瘾,4婚4离,手撕亲妈,26岁的她为了红,体面败光

整容33次成瘾,4婚4离,手撕亲妈,26岁的她为了红,体面败光

白面书誏
2026-11-16 17:30:14
曝中奖一亿的信小呆现状,身患抑郁症,倒贴20万,奖品全是代金券

曝中奖一亿的信小呆现状,身患抑郁症,倒贴20万,奖品全是代金券

落雪听梅a
2026-11-17 23:47:07
豪车逆行撞到我军车,对方猖狂扬言随便告,首长下车后他傻眼了

豪车逆行撞到我军车,对方猖狂扬言随便告,首长下车后他傻眼了

兰姐说故事
2025-05-03 10:00:13
11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

共工之锚
2026-11-18 11:05:32
油价调整:注意,预计下调390元/吨,跌幅继续下探!

油价调整:注意,预计下调390元/吨,跌幅继续下探!

金投网
2026-11-18 10:41:08
局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

民宿体验志
2026-11-15 19:41:13
西方专家:中国又要开始“反人类操作”,中国马上消灭第二个沙漠

西方专家:中国又要开始“反人类操作”,中国马上消灭第二个沙漠

云居历史
2026-10-27 01:08:07
10三分轰47分,4年6000万押对宝!18分大逆转,湖人9连胜独占第一

10三分轰47分,4年6000万押对宝!18分大逆转,湖人9连胜独占第一

锅子篮球
2026-11-18 16:11:13
崩溃!退役吧,被主教练点名,真打不了NBA……

崩溃!退役吧,被主教练点名,真打不了NBA……

体育新角度
2026-11-18 14:49:51
“老人味”祸根被揪出!医生提醒:60岁后要少碰,老了或也没味

“老人味”祸根被揪出!医生提醒:60岁后要少碰,老了或也没味

新时代的两性情感
2026-11-16 01:12:44
石家庄以北的河北人,为什么不说自己是河北人呢?

石家庄以北的河北人,为什么不说自己是河北人呢?

笔墨V
2026-11-17 05:32:43
今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

笑熬浆糊111
2026-10-28 06:00:28
最低10℃!广州或迎“湿冷模式”,今晚开始降温,间中有小雨

最低10℃!广州或迎“湿冷模式”,今晚开始降温,间中有小雨

21世纪经济报道
2026-11-18 15:10:19
一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

极目新闻
2026-11-16 10:06:42
五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

皮蛋儿电影
2026-05-14 09:59:14
韩国前女总统朴槿惠私生活有多乱,很多人不知道的10个冷知识

韩国前女总统朴槿惠私生活有多乱,很多人不知道的10个冷知识

疯狂的小历史
2026-11-17 11:56:01
73岁曾志伟内地饭局曝光,美女工作人员斟茶递水,网友笑称相当淡定

73岁曾志伟内地饭局曝光,美女工作人员斟茶递水,网友笑称相当淡定

粤睇先生
2026-11-17 23:41:40
余承东发布新款问界M8:38万元起售,全系预埋L3架构

余承东发布新款问界M8:38万元起售,全系预埋L3架构

量子位ROBO
2026-11-16 15:20:54
西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

凡人侃史
2026-11-16 16:11:51
张本智和母亲含泪认错?彻头彻尾的谣言!他家的真实态度太扎心

张本智和母亲含泪认错?彻头彻尾的谣言!他家的真实态度太扎心

霁寒飘雪
2026-11-16 19:18:26
2026-11-18 17:27:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644215文章数 3591427关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

教育
数码
艺术
时尚
健康

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

情绪真能让健康人"伤心至死"?

无障碍浏览 进入关怀版