网易首页 > 网易号 > 正文 申请入驻

OpenAI攻击,中国模型救场:复盘全球首例AI自主攻击

0
分享至


最近,全球AI圈经历了一场前所未有的“安全地震”。一场由Open AI测试模型自主发起、全程无人类干预的网络攻击,竟成功击穿了全球知名的AI开源平台Hugging Face。

然而,这场危机中最具戏剧性的一幕并非攻击本身,而是攻防两端的身份反差:攻击者来自美国顶尖AI公司Open AI,而最终为这场“数字危机”完成关键取证的,却是一款来自中国的开源大模型——智谱AI的GLM-5.2。

据了解,这是业内首次公开披露由前沿大模型自主规划并执行的真实网络攻击案例。在事故处置阶段,正是通过本地部署GLM-5.2对海量攻击日志进行全量分析,才使得安全团队在数小时内完成取证,成功阻断风险。这场攻防战不仅实证了AI自主攻击的现实威胁,更凸显了国产开源大模型在全球AI安全治理中的独特价值。

一次失控的安全测试,如何变成全球首例AI自主攻击?

事情的开端并不复杂。2026年7月,Open AI在一次AI Agent网络安全能力测试中,为了充分评估模型的上限,刻意降低了安全护栏。谁也没想到,被测试的模型为了在测评中拿到高分,没有老老实实解题,而是投入大量推理算力寻找“捷径”。

它很快利用测试环境中的一个零日漏洞完成了权限提升,成功逃出封闭的沙盒。联网后,模型推断Hugging Face平台可能托管着“考试答案”,随即发起攻击,直接从其生产数据库中窃取了数据。这是业内首次公开披露由前沿大模型自主规划、执行并完成的真实网络攻击。

攻击很快被发现并处置,但真正的难题摆在Hugging Face团队面前:如何在海量日志中快速还原攻击全貌? 他们先尝试调用几家美国头部闭源模型的API进行辅助取证,却遭到拒绝——日志中的真实攻击代码被模型内置护栏判定为“高风险”,无法协助分析。

转机出现在本地部署中国智谱AI的开源模型GLM-5.2之后。 这款模型凭借100万Token的无损上下文能力,在离线环境下对超1.7万条攻击日志进行全量分析,原本可能耗费数天的取证工作在数小时内即告完成,且所有敏感数据始终未离开本地。

攻击方来自Open AI,最终帮上忙的,却是一款来自中国的开源大模型。GLM-5.2这次“救场”,拉开了这场攻防战中最具戏剧性的一幕,也让业界开始重新审视国产开源模型的独特价值。

闭源模型“太安全”反成阻碍,智谱GLM-5.2凭何破局?

Hugging Face团队在调用美国头部闭源模型API受阻后,一度陷入困境。官方坦言:"这些模型无法有效区分安全响应人员与真正攻击者,在最需要AI的时候反而帮不上忙。"

转机出现在他们决定本地部署智谱AI的开源模型GLM-5.2之后。这款于2026年6月17日刚刚开源、采用MIT协议的模型,凭借100万Token的无损上下文窗口,在完全离线的环境下对全部攻击日志进行了一次性完整分析——原本可能需要数天的大规模取证工作,仅数小时便告完成。所有攻击数据和凭证始终留在企业内部,没有外传,进一步规避了二次泄露风险。

同样是AI模型,为什么结果截然相反?闭源模型的安全护栏在阻拦"高风险"输入时不分敌我,将安全人员的取证请求一并拒之门外;而GLM-5.2的开源属性恰恰成了关键优势——它允许Hugging Face在自有基础设施上进行本地离线部署,模型权重完全可控,不受任何外部审核策略制约。在数据安全和取证效率的双重压力下,开源模型用一次实打实的"救场",证明了自己的独特价值。

从“救场”到“领跑”,中国开源模型做对了什么?

GLM-5.2能够在跨国安全事件中完成救场,并非单次偶然,而是智谱AI长期坚持开源开放、自主研发路线积累的综合成果。截至2026年3月,平台注册用户突破400万,服务全球218个国家和地区。在权威评测Code Arena上,GLM-5.2取得全球可用模型第一;在Frontier SWE等多项测试中,它与国际顶尖模型的差距缩小至仅1%-4%,是排名最高的开源模型。

事实上,中国大模型近年来已经形成了一批具有国际影响力的开源力量。从智谱GLM,到阿里通义千问、DeepSeek等,中国厂商正在推动开放模型生态建设,让更多开发者能够参与AI创新。几天前,KimiK3正式发布,参数规模达2.8万亿,成为目前全球参数最大的开源模型。智谱在一季度涨价的情况下,全球调用量依旧环比增长400%,海外企业落地需求持续走高。

伴随着“智谱们”以开源不断贡献“中国方案”,救场之外不仅是技术胜出,整体性领跑已成现实。榜单成绩、架构方案、全球生态体量、商业化落地规模四项指标全面领先,中国大模型企业已经成为全球AI开源体系的核心支柱。这也改变了过去AI产业美国闭源领先、中国追赶的单一路径。Hugging Face CEO事后强调:“AI安全无法由任何一家公司秘密解决,必须在开放协作环境中解决。”如今,相比单纯追求模型规模,越来越多中国企业开始推动开放模型,让开发者能够直接研究模型能力、调整模型参数,并用于企业场景。

出品:南都大数据研究院

采写:南都N视频记者 孔令旖

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
比亚迪生锈争议不断,新旧款对比,差异到底有多大

比亚迪生锈争议不断,新旧款对比,差异到底有多大

音乐时光的娱乐
2026-09-03 09:02:15
贷款中介也开始批量暴雷了

贷款中介也开始批量暴雷了

新浪财经
2026-09-03 17:06:33
网传武汉大学“学术妲己”事件(附86页PDF)

网传武汉大学“学术妲己”事件(附86页PDF)

吃瓜体
2026-09-03 19:24:53
一张“附中女孩吃火锅”照片火了,4点多就放学的高中生,青春又自信

一张“附中女孩吃火锅”照片火了,4点多就放学的高中生,青春又自信

泽泽先生
2026-09-03 13:06:11
美股“科技七姐妹”,盘前集体上涨

美股“科技七姐妹”,盘前集体上涨

第一财经资讯
2026-09-03 16:55:12
击中了!伊朗早就该这么打了!

击中了!伊朗早就该这么打了!

故事终将光明磊落
2026-09-02 19:52:53
战满三盘惜败出局!王欣瑜止步美网次轮,中国球员女单仅剩郑钦文

战满三盘惜败出局!王欣瑜止步美网次轮,中国球员女单仅剩郑钦文

全景体育V
2026-09-03 08:01:45
国羽锁定3席8强!世界第1险翻车,卫冕冠军2-1脱险,女双横扫晋级!

国羽锁定3席8强!世界第1险翻车,卫冕冠军2-1脱险,女双横扫晋级!

刘姚尧的文字城堡
2026-09-03 15:34:48
雷克萨斯NX全球首发!预计2026年底全球上市,内饰大升级!

雷克萨斯NX全球首发!预计2026年底全球上市,内饰大升级!

我来自街头
2026-09-02 15:58:41
字节赌对了?Anthropic正式宣战蒸馏

字节赌对了?Anthropic正式宣战蒸馏

第四波
2026-09-02 17:04:10
媒体人:赵睿在今夏休赛期减重20斤,速度变快而对抗并未减弱

媒体人:赵睿在今夏休赛期减重20斤,速度变快而对抗并未减弱

懂球帝
2026-09-03 08:18:05
人人影视“复活”了!APP正式公测,片源全部正版

人人影视“复活”了!APP正式公测,片源全部正版

赴一场山海啊
2026-09-03 17:23:43
中共福建省委组织部关于王哲林等同志任前公示的公告

中共福建省委组织部关于王哲林等同志任前公示的公告

大闽门户
2026-09-03 09:07:11
郭晶晶一家新疆旅游,妈妈也来了!霍启刚瘦不少,霍震霆不怒自威

郭晶晶一家新疆旅游,妈妈也来了!霍启刚瘦不少,霍震霆不怒自威

胡一舸南游y
2026-09-03 18:28:26
中村敬斗:我知道自己是队史首位日本球员,希望能代表好祖国

中村敬斗:我知道自己是队史首位日本球员,希望能代表好祖国

懂球帝
2026-09-03 01:55:07
“滚开,烦不烦啊”,易慕峰CAR-T临床试验受试者死亡,公司董事李佳昕如此回应

“滚开,烦不烦啊”,易慕峰CAR-T临床试验受试者死亡,公司董事李佳昕如此回应

时代周报
2026-09-03 12:03:43
史上最贵苹果手机来袭:业内称iPhone Ultra就是炫富工具

史上最贵苹果手机来袭:业内称iPhone Ultra就是炫富工具

快科技
2026-09-03 07:25:03
6死3伤!海口一餐厅装修突发大火悲剧,现场视频流出,当地网友纷纷留言

6死3伤!海口一餐厅装修突发大火悲剧,现场视频流出,当地网友纷纷留言

火山詩话
2026-09-03 17:35:00
勒庞阿姨放话:以后想在法国戴头巾?罚款!

勒庞阿姨放话:以后想在法国戴头巾?罚款!

新欧洲
2026-09-02 20:16:30
两天票房为零,著名戏骨助力也没用,九月刚开始最惨电影就诞生了

两天票房为零,著名戏骨助力也没用,九月刚开始最惨电影就诞生了

影视高原说
2026-09-02 13:04:17
2026-09-03 20:48:50
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
630856文章数 3590367关注度
往期回顾 全部

科技要闻

大模型扎堆!谷歌刚发,Meta就跟上

头条要闻

乌克兰两大情报机构街头交火 冲突爆发的根本原因披露

头条要闻

乌克兰两大情报机构街头交火 冲突爆发的根本原因披露

体育要闻

梅西:巴萨10号与阿根廷10号

娱乐要闻

王宝强携女友回工作室!相恋8年仍未婚

财经要闻

章子怡套现3亿 上美拿什么补韩束的缺?

汽车要闻

宾利托卡尔性能揭晓 电驱时代释放品牌史上最强动力

态度原创

艺术
数码
旅游
手机
公开课

艺术要闻

总投资107亿,“西南第一高楼”施工高度已达365米!

数码要闻

9999元!宏碁推出掠夺者XB253Q U1显示器:1080P/1000Hz

旅游要闻

墨韵声光丨袁东山:山城高 两江长

手机要闻

碾压同级!小米18Fold折叠手机:徕卡三摄封神,全焦段影像无短板

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版