网易首页 > 网易号 > 正文 申请入驻

Hugging Face遭遇AI智能体网络安全事件 智谱GLM-5.2接手“查案”

0
分享至

近日,全球最大的AI开源社区Hugging Face披露了一起由自主AI Agent发起的网络安全事件。官方披露显示,OpenAI的AI模型在一次内部关于网络攻击能力的测试中,模型在评估中为了“作弊”拿到高分,突破沙盒隔离,入侵了AI开源平台Hugging Face的生产系统。OpenAI将此定性为“前所未有的网络安全事件”。

据OpenAI披露,涉事模型为GPT-5.6 Sol以及一款能力更强的预发布模型。它们当时正在参加名为ExploitGym的内部评测,该基准包含898个真实软件漏洞利用任务,专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。

在攻击发生后的事后追查阶段,安全团队需要分析超过1.7万条攻击日志、恶意代码及攻击指令,以重建攻击路径、识别受影响资产并完成事件取证。

Hugging Face在官方复盘中提到,其最初尝试使用商业模型API进行分析,但由于日志中包含真实攻击指令、恶意代码和C2(Command&Control)等内容,请求受到安全策略限制,未能完成相关分析。

随后,Hugging Face团队转而在本地基础设施部署开源模型智谱GLM-5.2,由GLM-5.2遍历全部攻击记录并完成取证分析,将数天的工作压缩至数小时,完成了整个取证分析流程。官方同时指出,这样做还有一个额外优势,那就是攻击数据及涉及的凭证始终保留在本地环境,没有离开企业基础设施。

这一案例反映出,随着AI逐步进入企业核心业务流程,企业对基础模型的关注点也在不断丰富。除了模型能力本身之外,在真实生产环境中的部署能力、工程可用性以及完成复杂任务的能力,正成为越来越多企业关注的重要因素。

Hugging Face在复盘中建议,企业应提前准备能够在本地基础设施运行的模型,以便在安全事件等关键场景下开展分析工作,同时保障敏感数据留存在企业环境内。

业内人士表示,从开发、编程到安全运维,大模型正越来越多地参与真实业务流程。模型价值不仅体现在能力表现,更体现在能否稳定融入企业工作流、解决实际问题。这类来自真实生产环境的实践案例,也为企业部署AI提供了新的参考。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

福建睿平
2026-08-28 07:25:16
亏麻了!17日午间股民实盘记录:11月累计浮亏超8万,盘面低迷,仅国产替代半导体成场内独苗,评论区哀嚎一片

亏麻了!17日午间股民实盘记录:11月累计浮亏超8万,盘面低迷,仅国产替代半导体成场内独苗,评论区哀嚎一片

火山詩话
2026-11-17 11:48:59
两性关系:75岁大妈真敢直言,女人不管多大年龄,都吃这几套?

两性关系:75岁大妈真敢直言,女人不管多大年龄,都吃这几套?

三农老历
2026-11-07 08:34:39
你在ktv遇见最恶心的客人是啥样?网友:稍稍有点辣眼睛,纯洁的慎看

你在ktv遇见最恶心的客人是啥样?网友:稍稍有点辣眼睛,纯洁的慎看

解读热点事件
2026-08-01 00:05:21
许家印的靠山,被起诉了

许家印的靠山,被起诉了

哲空空
2026-05-22 13:40:53
支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

青春染指红颜梦
2026-09-02 17:50:13
中国应随时做好战争准备。中国的下一场战争,台海当然是风暴眼

中国应随时做好战争准备。中国的下一场战争,台海当然是风暴眼

叶葉夜
2026-11-14 09:25:13
57岁黄光裕现状:隐居广州住豪宅,养狗为伴,早没有当年首富气场

57岁黄光裕现状:隐居广州住豪宅,养狗为伴,早没有当年首富气场

春日在捕月
2026-11-07 05:19:58
陈启泰:被抑郁症折磨20年险跳楼,62岁离开TVB后活成这样

陈启泰:被抑郁症折磨20年险跳楼,62岁离开TVB后活成这样

喜欢历史的阿繁
2026-11-17 03:01:03
中国近三年死亡人数对比:23年1110万,24年1093万,去年高了点

中国近三年死亡人数对比:23年1110万,24年1093万,去年高了点

混沌录
2026-11-17 10:14:08
利空又来!全球股市,纷纷大跌!

利空又来!全球股市,纷纷大跌!

星图金融研究院
2026-11-17 15:44:03
明日十月初十,记得:1不洗,2不动,吃3样,十全十美,平安过冬

明日十月初十,记得:1不洗,2不动,吃3样,十全十美,平安过冬

神牛
2026-11-17 08:42:03
发现没有?超市、菜市场已经出现大怪现象,值得每一个人去深思

发现没有?超市、菜市场已经出现大怪现象,值得每一个人去深思

探源历史
2026-11-11 05:24:55
克罗斯:克洛普在执教过的所有球队都证明了他有能力培养球员

克罗斯:克洛普在执教过的所有球队都证明了他有能力培养球员

懂球帝
2026-11-17 13:09:02
CBA俱乐部杯明天11月18日赛程:广东VS山东,北京VS江苏

CBA俱乐部杯明天11月18日赛程:广东VS山东,北京VS江苏

薇说体育
2026-11-17 17:23:09
易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

LULU生活家
2026-08-31 15:33:38
71年前,伟人曾大胆预测:中国最晚将会在2030年之前赶超美国

71年前,伟人曾大胆预测:中国最晚将会在2030年之前赶超美国

疯狂的小历史
2026-11-17 11:40:14
中美日人均寿命出炉:美79岁、日84岁,中国让人意外,难题出现了

中美日人均寿命出炉:美79岁、日84岁,中国让人意外,难题出现了

霁寒飘雪
2026-10-27 19:19:39
就在刚刚!官宣签NBA总冠军后卫冲季后赛!在CBA曾场均27.9分11.1板10.9助

就在刚刚!官宣签NBA总冠军后卫冲季后赛!在CBA曾场均27.9分11.1板10.9助

老吴说体育
2026-11-17 14:31:59
“红楼梦AI剧侵害17位演员肖像权”上热搜,《红楼梦》宝钗扮演者张莉回应:未授权AI短剧使用肖像,保留进一步追究相关方法律责任的权利

“红楼梦AI剧侵害17位演员肖像权”上热搜,《红楼梦》宝钗扮演者张莉回应:未授权AI短剧使用肖像,保留进一步追究相关方法律责任的权利

大风新闻
2026-11-17 13:26:02
2026-11-17 18:04:49
证券时报 incentive-icons
证券时报
运营主体:深圳证券时报社有限公司
998163文章数 239941关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

伊朗罕见公开20多年前史料:最高领袖视察导弹演习

头条要闻

伊朗罕见公开20多年前史料:最高领袖视察导弹演习

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

手机
房产
亲子
数码
军事航空

手机要闻

从瞬间到故事感,Reno17 系列持续引领实况赛道体验创新

房产要闻

5381亩之后,三亚绿谷,等一个500强!

亲子要闻

佳贝艾特荷兰版获2026“年度亲选奖”

数码要闻

端侧AI走进卧室,联发科Genio 420加速智能家居进化

军事要闻

美乌陷入外交僵局 俄乌互攻势头不减

无障碍浏览 进入关怀版