网易首页 > 网易号 > 正文 申请入驻

智能体批量上岗 需“以模治模”完善内生安全

0
分享至



(图片来源:摄图网)

(记者 陈洲)近日,在中国通信学会统筹组织下,中国信通院联合天翼云、移动云、联通云等头部云服务商,共同编制完成《云上智能体服务网络和数据安全(885942)自律公约(2026版)》(以下简称《自律公约》)。作为行业首部针对云上智能体的安全自律文件,《自律公约》的发布为云上智能体安全发展划定底线、明确准则,推动人工智能创新应用实现高质量发展与高水平安全的良性互动。

当前,以Token为核心的词元技术深度融入生产生活,从智能助手、政务服务到工业控制、医疗健康,词元驱动了智能体应用全面落地,其安全平稳运行已成为关乎产业可持续发展与社会公共安全的核心议题。

智能体批量上新 安全风险加速凸显

当前,以OpenClaw为代表的智能体技术迎来爆发式增长,全球掀起“养龙虾”热潮,我国已成为全球OpenClaw部署数量最多的国家。截至2026年4月15日,互联网暴露的OpenClaw实例超14万个。国内主流云服务商推出的智能体“一键部署”服务,大幅降低应用门槛,推动智能体批量上新、快速普及,但与此同时,智能体的上新速度远超安全防护能力建设速度,安全短板日益凸显,成为制约行业健康发展的关键瓶颈。

国家信息安全漏洞库(CNNVD)数据显示,2026年4月14日至28日仅两周时间,就采集到OpenClaw相关漏洞111个,其中超危漏洞2个、高危漏洞38个,涵盖访问控制错误、代码问题、路径遍历、权限提升等多个类别。这些漏洞一旦被利用,可能导致智能体越权操作、核心数据泄露、系统被恶意控制等严重后果,威胁企业业务与用户信息安全。更值得警惕的是,AI技术普及重塑了网络攻防格局,攻击成本呈指数级下降、攻击能力呈倍数级提升,传统基于规则、依赖人工的安全防护思维已难以应对新型威胁。

源头治理破局 以AI之盾抵御AI之攻

面对“用AI发起攻击”的新挑战,防御手段必须跳出传统思维,实现同步升级、主动防御。中国电信、中国移动、中国联通三大运营商作为数字信息基础设施建设的主力军,给出了共同答案:用AI对抗AI、用AI管理AI,以技术创新构建智能体安全防护新体系,从源头化解安全风险。

用AI对抗AI,构建智能化主动防御体系。运营商依托自身云网融合优势,将AI技术深度融入安全防护全流程,打造“感知-决策-执行”闭环的智能对抗能力。

中国电信推出的智能体安全管家,被喻为“龙虾保镖”,可实现毫秒级拦截AI越权操作,当智能体接收“删除所有文件”等高危指令时,能立刻阻断执行;针对提示词注入、恶意插件调用等隐蔽攻击,通过AI行为建模分析,精准识别业务意图与实际行为的偏离,无需人工干预即可自动阻断风险操作,误报率低、适配范围广。

中国移动、联通云研发了各自的AI安全防护平台,利用机器学习实时分析智能体运行日志、网络流量、API调用行为,构建动态安全基线,快速识别异常活动;通过对抗训练技术,在模型训练中主动注入对抗样本,提升智能体面对恶意扰动的鲁棒性,增强自身抗攻击能力。

用AI管理AI,实现全流程安全可控。针对智能体部署分散、运维复杂、风险难控等问题,运营商搭建AI驱动的智能体管理平台,实现对云上智能体的统一纳管、动态监测、合规审计。部署环节,严格落实镜像安全检测、运行环境隔离、权限最小化管控,仅提供官方渠道最新稳定版本,关闭非必要互联网访问端口,从源头减少攻击面。运行环节,利用AI实时监测智能体行为,记录完整操作日志与“思维链”,实现行为可追溯、风险可预警;定期开展安全扫描、漏洞检测与行为审计,及时处置安全隐患。数据环节,构建全链路数据安全保障体系,提供数据传输存储加密、敏感数据安全存储、外发监测阻断等服务,防范数据泄露与滥用风险。三大运营商通过“技术防护+智能管理”双轮驱动,将安全能力嵌入智能体全生命周期,实现从“事后处置”向“事前预防、事中管控”的转变,筑牢安全防线。

强化标准引领 构建协同共治产业生态

当智能体应用从概念验证走向大规模部署,行业亟需一套共同的规则和底线,明确安全责任、规范技术应用、统一防护要求,为产业健康发展提供制度保障。《自律公约》的发布,正是行业强化标准引领、推进协同共治的重要举措,为云上智能体安全发展提供了行为准则与实践指引。

完善标准体系,筑牢安全发展根基。《自律公约》共设四章十二条,以云服务商为核心责任主体,围绕明责定界、网络安全、数据安全、恶意行为防护、用户安全引导、风险信息报送六大维度,提出可落地、可执行的自律要求。

除《自律公约》外,我国智能体安全标准体系建设持续提速,多项关键标准相继发布。全国网安标委发布《智能体安全标准化研究报告》,构建基础共性、安全管理、关键技术、测试评估、产品与应用五大维度的标准体系框架;世界数字科学院发布全球首个AI智能体运行安全测试标准,弥补了智能体安全测试技术标准空白;中国软件行业协会、广东省标准化协会等机构发布《智能体行为安全要求》等团体标准,明确智能体行为安全基本原则与核心要求。目前,已形成“自律公约+国家标准+行业标准+团体标准”多层次、全覆盖的标准体系,为智能体安全发展提供全方位支撑。

强化协同共治,凝聚产业发展合力。当然,智能体安全治理是系统工程,更需政府、企业、行业协会、科研机构等多方的协同发力,构建协同共治的产业生态。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
马上停止5类运动,很可能加速血栓形成!等血管“堵死”就迟了

马上停止5类运动,很可能加速血栓形成!等血管“堵死”就迟了

观星赏月
2026-07-11 19:06:19
菲军方要变天?为了不被军队赶下台,小马科斯抓住兵权不敢放手

菲军方要变天?为了不被军队赶下台,小马科斯抓住兵权不敢放手

一曲一场談
2026-07-12 01:19:03
以色列人开始害怕了,民族的凄惨结局正在重演

以色列人开始害怕了,民族的凄惨结局正在重演

农夫史记
2026-07-08 21:18:18
16岁高中生凌晨两点拍门嬉闹被人捅死,家属希望凶手能被严惩

16岁高中生凌晨两点拍门嬉闹被人捅死,家属希望凶手能被严惩

映射生活的身影
2026-07-11 23:51:47
四个冠军有望会师半决赛,世界杯可“复刻”上届欧洲杯

四个冠军有望会师半决赛,世界杯可“复刻”上届欧洲杯

嗨皮看球
2026-07-11 14:31:33
上海电视台主持人 樊路易

上海电视台主持人 樊路易

动物奇奇怪怪
2026-07-11 13:09:10
中国为啥突然禁出口氦气?看懂背后五层深意,最慌的可不是我们!

中国为啥突然禁出口氦气?看懂背后五层深意,最慌的可不是我们!

普陀动物世界
2026-07-12 04:29:07
世界杯1/4决赛前瞻:挪威VS英格兰,世界杯19亿终极对决!英超内战,哈兰德要把“三狮军团”再次撕碎?

世界杯1/4决赛前瞻:挪威VS英格兰,世界杯19亿终极对决!英超内战,哈兰德要把“三狮军团”再次撕碎?

禁止读书
2026-07-11 11:26:56
陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

不似少年游
2026-06-22 19:32:51
与巴西队一战,哈兰德84%跑动都是慢速移动,“散步”比例甚至高于梅西

与巴西队一战,哈兰德84%跑动都是慢速移动,“散步”比例甚至高于梅西

红星新闻
2026-07-11 16:14:23
骑士豁出去了!美记:为了詹姆斯,骑士想送走哈登,得到欧文!

骑士豁出去了!美记:为了詹姆斯,骑士想送走哈登,得到欧文!

爱体育
2026-07-11 23:46:17
全员985、仅1名男老师!广州一初中新教师入职见面会,引发热议

全员985、仅1名男老师!广州一初中新教师入职见面会,引发热议

火山詩话
2026-07-11 17:30:23
人伦大乱正在毁掉无数中国家庭:3种乱象就在日常,拖垮一家人

人伦大乱正在毁掉无数中国家庭:3种乱象就在日常,拖垮一家人

阿凯销售场
2026-07-04 15:35:28
全天开空调一天电费多少钱?1.5匹、2匹、3匹真实耗电一次性算清

全天开空调一天电费多少钱?1.5匹、2匹、3匹真实耗电一次性算清

辉哥说动漫
2026-07-12 04:04:14
蔡澜:告诉你一个扎心现实,不要跟为你提供服务、你要服务的人频繁聊天,更别走得太近,因为.....

蔡澜:告诉你一个扎心现实,不要跟为你提供服务、你要服务的人频繁聊天,更别走得太近,因为.....

犀利强哥
2026-07-07 06:58:57
古巴电力系统全面断电

古巴电力系统全面断电

财联社
2026-07-11 05:32:07
这都赢不了,中国女排不敌倒数第三,赛后诞生三个意想不到

这都赢不了,中国女排不敌倒数第三,赛后诞生三个意想不到

南海浪花
2026-07-11 23:02:06
Costco员工不愿离开的秘密:时薪仅33美元,但退休账户超100万美元

Costco员工不愿离开的秘密:时薪仅33美元,但退休账户超100万美元

大洛杉矶LA
2026-07-12 04:57:49
7月11日,人社部发布重要消息,关系养老金调整,尤其这类人有福

7月11日,人社部发布重要消息,关系养老金调整,尤其这类人有福

社保小达人
2026-07-11 13:10:23
衬托式穿搭,布料承受住体态重量带来的压力

衬托式穿搭,布料承受住体态重量带来的压力

飛尚日记
2026-07-03 06:32:40
2026-07-12 05:59:00
通信信息 incentive-icons
通信信息
通信信息报报社官方媒体平台
10089文章数 6568关注度
往期回顾 全部

科技要闻

苹果起诉OpenAI系统性窃密,挖超400前员工

头条要闻

长沙通报体育局女干部占车位事件:涉事干部被停职

头条要闻

长沙通报体育局女干部占车位事件:涉事干部被停职

体育要闻

燃尽的比利时黄金一代,逃不过厄运诅咒

娱乐要闻

周星驰官宣星女郎 纯素人无拍戏经验

财经要闻

一封举报信 引发小红书IPO合规考验

汽车要闻

预售权益价11.78万起 五菱星光L将于7月16日上市

态度原创

教育
本地
健康
数码
旅游

教育要闻

颠覆QS排名,英国本土最认可的10所英国大学!

本地新闻

重庆人有自己的避暑桃花源 | 夏天就去「酉」风的地方!

肝病、肾病患者注意!吃粘食要谨慎

数码要闻

赴青春之约,闪迪登陆BW2026!用疾速存储定格漫展每一帧心动

旅游要闻

文旅视评|跟着电影去旅游!打卡山东这些热门取景地

无障碍浏览 进入关怀版