网易首页 > 网易号 > 正文 申请入驻

AI智能体自主发起攻击怎么破?专家:防御端需转向主动治理

0
分享至


南都讯 记者李玲 9月14日至20日,2026国家网络安全宣传周在全国范围举行。南都记者获悉,15日,网安周成都系列活动正式启动,作为核心专业板块的2026CCS成都网络安全技术交流活动同期举行,共设有8场平行活动、数十场专题分享和圆桌交流。

在主旨演讲环节中,中国工程院院士黄殿中直指当前全球AI智能体研发的核心困境。他认为,当前智能体训练整体陷入 “内卷死胡同”:过度依赖人工示教,训练数据极度稀缺,真实环境无法开展极限对抗训练,研发模式零散化、小作坊化,始终走在跟随、复刻的路径上,难以实现领跑。

对此,黄殿中认为,需要构建“高保真仿真场景智能体工厂+全维度标准化安全测评体系”,让 “风险留在仿真场,安全落地真实场”。具体怎么做?黄殿中提出了具体方案。

一方面,以数字孪生、场景复刻、攻防仿真技术打造百万至千万级全真场景库,覆盖常规业务、复杂异常、极限攻防、未知风险全场景,实现零风险、零成本、无限次的自主试错训练;另一方面以标准化智能体工厂体系破解碎片化研发痛点,统一场景、标准、数据与能力评价体系;同时配套全维度安全测评体系,守住行为、权限、决策、攻防、伦理五大边界,确保智能升级始终在安全可控框架内推进。

当前,AI智能体迎来快速爆发,也给网络安全攻防带来新的挑战。今年7月16日,全球知名AI开源平台Hugging Face公开宣称,遭到AI智能体入侵。随后,OpenAI发文承认近期在内部测试旗下多款模型时,意外攻破了Hugging Face的网络系统。当AI智能体开始自主发起网路攻击,该如何应对?

赛博英杰创始人谭晓生认为,当前攻击端已进入 “工业化生产”时代:AI可自主串联零日漏洞,在真实内网完成沙盒逃逸与横向移动,漏洞挖掘走向流水线化,恶意代码失去可溯源的个人特征,攻击组织演变为 “一个人+一组 Agent” 的超级个体。

为此,谭晓生强调,防御端必须从 “被动封堵” 转向 “主动治理”,用AI完成可达性分析、自适应业务画像与常态化安全验证,把人员经验沉淀为可复用的机器知识;如果仅在传统安全产品上叠加AI,无法改变攻防不对等的基本态势。

谭晓生还谈到,AI时代对网络安全人才的冲击。他说,中低端安全工程师的岗位需求大幅下降,顶级安全人员借助AI工具可完成过去数十人甚至上百人的工作,人才价值加速两极分化。传统防火墙、终端安全、SOC 等产品体系,以及渗透测试、漏洞挖掘等岗位职能,正在被重新定义价值。

360安全集团副总裁卜思南也提到,网络人才面临结构性错配问题。他说,业内经常谈论仍存在327万网安人才缺口、500万AI人才缺口,但本质不是缺人数,而是能力错配。一个尴尬的现状是,会AI的不懂安全,懂安全的不碰 AI;90%的员工仍把AI当搜索框用,投入指数级增长但产能并未同步提升。

为此,他提出 “米字型” 人才培养模型,以专业纵深为核心,兼具AI驾驭、安全素养、场景连接能力,构建多位一体的人才生态,破解智能时代的人才结构性矛盾。

此次活动期间,与会者普遍提到的一个共识是,智能时代的网络安全,早已不再是单一技术点的攻防对抗,而是涵盖技术范式、产业体系、人才结构、治理模式的系统性命题。

据悉,本届活动以“AI 向善,安全有道”为主题,由中国信息安全测评中心、四川省互联网信息办公室指导,成都市互联网信息办公室、成华区人民政府主办,成都无糖信息技术有限公司承办。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
《余红旧事》口碑大爆,本是冲马伊琍来的,却被40岁跨界歌手惊艳

《余红旧事》口碑大爆,本是冲马伊琍来的,却被40岁跨界歌手惊艳

寒士之言本尊
2026-09-30 15:30:44
《兰香如故》林锦歧拼命护送回京的太子,只做了9个月的皇帝,却开启了大明王朝的“仁宣之治”!

《兰香如故》林锦歧拼命护送回京的太子,只做了9个月的皇帝,却开启了大明王朝的“仁宣之治”!

牛锅巴小钒
2026-09-27 11:03:55
“这才是真躺平!"34岁男子在自家小区当保安,房贷还有9年,每月还2100,月薪4200,下楼就能上班,网友:活明白了

“这才是真躺平!"34岁男子在自家小区当保安,房贷还有9年,每月还2100,月薪4200,下楼就能上班,网友:活明白了

犀利强哥
2026-09-30 06:54:41
情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

新欧洲
2026-04-21 19:37:05
从80万份爆卖到“全是皮”差评,鲍师傅超长蛋挞翻车只用了八天

从80万份爆卖到“全是皮”差评,鲍师傅超长蛋挞翻车只用了八天

ZAKER新闻
2026-09-30 17:53:43
大家有没有发现?油车加200元油,大致能跑400公里,新能源电车花200元电费,可能能跑2000公里。用车成本差这么大,为什么仍有人买油车?

大家有没有发现?油车加200元油,大致能跑400公里,新能源电车花200元电费,可能能跑2000公里。用车成本差这么大,为什么仍有人买油车?

扶苏聊历史
2026-09-22 16:09:20
形势不容乐观,俄军如发射核武器:美军将全面打击乌克兰前线俄军

形势不容乐观,俄军如发射核武器:美军将全面打击乌克兰前线俄军

午夜搭车a
2026-09-30 01:33:50
伊朗起内讧?内部发生激烈交火,伊朗安全部队出动坦克和火箭

伊朗起内讧?内部发生激烈交火,伊朗安全部队出动坦克和火箭

温读史
2026-10-01 08:52:40
深度长文:无生命的物质,到底经历了什么,突然就拥有了生命?

深度长文:无生命的物质,到底经历了什么,突然就拥有了生命?

宇宙时空
2026-09-21 12:35:38
33岁章泽天风格大变!穿艳俗纱裙、副乳突出,比实际年龄成熟10岁

33岁章泽天风格大变!穿艳俗纱裙、副乳突出,比实际年龄成熟10岁

阿讯说天下
2026-04-18 14:53:39
刚拿冠军就退役,当晚直接打包行李走人,这姑娘的操作把全网看傻

刚拿冠军就退役,当晚直接打包行李走人,这姑娘的操作把全网看傻

静若梨花
2026-08-29 10:42:55
金鹰奖这晚:杨紫土了,蒋欣好瘦,宋佳气质最绝,穿裙子的迟蓬好洋气

金鹰奖这晚:杨紫土了,蒋欣好瘦,宋佳气质最绝,穿裙子的迟蓬好洋气

娱乐圈笔娱君
2026-09-29 13:50:21
乌克兰“移交2名朝鲜战俘”给韩国,韩国要求道歉,泽连斯基:朝鲜俘虏老想自杀,抓2个不容易

乌克兰“移交2名朝鲜战俘”给韩国,韩国要求道歉,泽连斯基:朝鲜俘虏老想自杀,抓2个不容易

蓝星杂谈
2026-09-29 17:12:11
比芯片更可怕的危机来了?人类挖了几千年的铜,竟成未来命门!

比芯片更可怕的危机来了?人类挖了几千年的铜,竟成未来命门!

福建睿平
2026-09-30 07:28:24
C罗退出国家队,将会产生三大影响,第三个最具代表性

C罗退出国家队,将会产生三大影响,第三个最具代表性

南海浪花
2026-10-01 10:03:32
真是偷鸡不成蚀把米!据爆料,鸟哥已经与梁女士分手了,估摸着这下梁女士肠子都悔青了吧

真是偷鸡不成蚀把米!据爆料,鸟哥已经与梁女士分手了,估摸着这下梁女士肠子都悔青了吧

静若梨花
2026-09-29 11:05:31
笑不活了!重庆一男子自备国庆自驾堵车应急神器,老公、老婆、儿子装备各不同,太真实

笑不活了!重庆一男子自备国庆自驾堵车应急神器,老公、老婆、儿子装备各不同,太真实

火山詩话
2026-10-01 10:04:05
警惕!朝鲜半岛的“低气压”正在加剧

警惕!朝鲜半岛的“低气压”正在加剧

看看新闻Knews
2026-09-30 23:08:13
演员潘粤明画的一幅鬼画,网友:狗链子画的好!

演员潘粤明画的一幅鬼画,网友:狗链子画的好!

乡野小珥
2026-09-21 04:03:10
贫穷能让一个人有多卑微?网友:给05年小富婆妹当过狗,还给130斤小富婆做了俩月男朋友

贫穷能让一个人有多卑微?网友:给05年小富婆妹当过狗,还给130斤小富婆做了俩月男朋友

带你感受人间冷暖
2026-09-15 00:05:19
2026-10-01 13:51:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
636185文章数 3590764关注度
往期回顾 全部

科技要闻

华为Mate90系列发布,售价5999元起

头条要闻

以乘客讲述惊魂一刻:我用耳机线捆住袭击者 他很安静

头条要闻

以乘客讲述惊魂一刻:我用耳机线捆住袭击者 他很安静

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

宋佳二封金鹰视后 内娱奖项史即将改写

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

游戏
教育
家居
本地
军事航空

网传PS港服会员也要降价!第一方对齐《战神》定价

教育要闻

1和0.9的无限循环到底哪个大?家长都蒙圈了

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版