网易首页 > 网易号 > 正文 申请入驻

AI安全进入“深水区”:产业界共推标准、评估与智能体防护新框架

0
分享至

行业动态

在“人工智能+”行动全面提速、AI原生应用加速落地的关键阶段,安全已成为支撑产业高质量发展的核心底座。12月1日,由中国互联网协会主办、中国信息通信研究院(以下简称“中国信通院”)承办的2025“人工智能+”产业生态大会“人工智能与安全论坛”在北京成功举办。论坛聚焦AI安全治理前沿议题,汇聚政产学研多方力量,发布多项研究成果、评估体系与行业标准,推动构建可信、协同、韧性的AI安全新生态。

中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国表示,人工智能正成为全球科技竞争的最前沿,统筹人工智能的发展与安全已成为关乎产业全局的关键议题。为此,赵志国提出三点建议:一是筑牢技术根基,聚焦可信算法、对抗防御等核心技术,构建具备内生安全能力的人工智能底座;二是深化融合应用,拓展人工智能在威胁识别、态势感知等场景的深度应用,提升风险响应与防护能力;三是完善治理生态,加快标准体系建设,推动产业协同与国际合作,共同营造安全、可信的人工智能发展环境。

北京市通信管理局党组成员、副局长王晖表示,“十五五”规划建议提出要“加强网络、数据、人工智能等新兴领域国家安全能力建设”,为我们下一步工作提供了根本遵循。信息通信与人工智能深度融合,积极赋能科技、产业、消费、民生、治理、全球合作等重点领域。未来,我们将围绕突出政策引领、夯实安全基础、强化技术攻关等方面,全面筑牢信息通信行业网络和数据安全防护底座,以高水平安全护航人工智能产业高质量发展。

中国信通院党委副书记王晓丽表示,坚持发展与安全并重、统筹人工智能的创新应用与安全治理,是保障人工智能健康有序发展的核心前提与必然要求。总体看,我国人工智能安全产业发展正迈入高质量发展轨道,政策环境持续优化,技术创新应用不断涌现,产业融合持续深化升级。未来,中国信通院将坚持使命定位,持续布局人工智能安全产业前瞻领域研究,大力推动产业基础设施生态与标准体系建设,促进相关产业创新发展。

论坛上,中国信通院发布了系列AI安全研究成果,并公布最新一批“可信安全”评估结果,覆盖可信云安全、可信AI云安全等领域,为行业技术选型与安全建设提供参考。

为响应中央经济工作会议关于“开展‘人工智能+’行动,培育未来产业”的部署,中国互联网协会主办首届“AI领航杯”“人工智能+”应用与技能大赛,其中“AI+安全”赛道由中国信通院承办。经过多轮角逐,共评选出48个获奖项目,包括3个一等奖、8个二等奖、15个三等奖及22个优秀奖,充分展现我国在AI安全领域的创新活力与实践成果。

随着大模型与智能体技术的快速演进,云上智能体已在政务、金融、通信、能源等关键领域规模化落地,但其带来的身份伪造、决策失控、权限滥用等新型风险日益凸显。对此,中国互联网协会与云计算标准和开源推进委员会联合发布《云上智能体安全发展研究报告》,系统梳理智能体安全挑战与防护路径,为云厂商、安全企业及行业用户提供建设指引。

针对端云协同场景下交互复杂度激增带来的隐私与数据泄露风险,论坛同步发布《端云协同 智能体交互双重授权安全指引》。该指引由中国信通院联合北京邮电大学、国家金融科技认证中心、天翼安全等机构共同研制,倡导建立“用户+应用”双重授权机制,推动智能体应用在合规前提下加速落地。

中国信通院云计算与大数据研究所郭雪在解读报告时表示,当前云上智能体正处于规模化落地的关键窗口期,其安全风险呈现传导快、影响广、隐蔽性强等特点。她呼吁通过“标准引领、技术突破、生态协同”三维共治,筑牢安全底座。

同场分享中,信通院马铭洋指出,传统安全工具已难以应对AI催生的新型威胁,“AI对抗AI”将成为未来防护核心方向。安全体系正加速向内生防御、主动智能与韧性自治转型,亟需攻克智能化安全技术瓶颈。

来自中国移动、中国电信、360、兴云数科等企业的专家也围绕可信AI实践、大模型安全运营、AI安全新基建、Agentic SOC等主题展开案例分享。在圆桌对话环节,启明星辰、奇安信、中国电信安全公司等代表就“智能化时代下AI安全的挑战与破局之道”深入探讨,一致认为唯有构建开放协同的产业生态,方能实现安全与发展双赢。

值得关注的是,论坛正式启动《AI原生云安全能力成熟度要求》标准研制工作。该标准将明确AI原生云安全的核心维度、评价框架与指标体系,为各类主体提供可量化、可评估的建设指南,加速安全能力与AI原生场景的深度融合。

随着本次论坛落幕,中国信通院表示将持续发挥产业平台作用,通过标准制定、测试评估、生态对接等方式,推动AI安全产业迈向更高水平。在政策引导、技术驱动与多方协同下,一个安全可信、开放共赢的人工智能安全新生态正加速成型,为数字经济高质量发展注入坚实保障与持久动能。

免责声明:本文观点仅代表作者本人,供参考、交流,不构成任何建议。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
iOS 26.7.3正式推送!6项设置怎么调,流畅度真能提升20%?

iOS 26.7.3正式推送!6项设置怎么调,流畅度真能提升20%?

小8说科技
2026-11-15 12:19:40
霍启山也没想到,自己大婚将至,反而让母亲朱玲玲承担了“恶意”

霍启山也没想到,自己大婚将至,反而让母亲朱玲玲承担了“恶意”

小莜读史
2026-11-18 07:06:31
王宝强带女友参加婚礼,冯清苹果肌肿胀明显,被吐槽医美过度!

王宝强带女友参加婚礼,冯清苹果肌肿胀明显,被吐槽医美过度!

娱乐团长
2026-07-07 11:00:01
性学专家李银河说:你若50岁左右,人生余额已不多。不出意外…

性学专家李银河说:你若50岁左右,人生余额已不多。不出意外…

豁达宇宙
2025-10-22 18:31:20
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
哈马维当选六天就翻脸?拒认伊朗是对手,还反手把大锅甩给美国!

哈马维当选六天就翻脸?拒认伊朗是对手,还反手把大锅甩给美国!

王姐懒人家常菜
2026-11-18 08:26:58
深圳男子被漂亮交警开罚单后一见钟情,他决定这样做来接近她

深圳男子被漂亮交警开罚单后一见钟情,他决定这样做来接近她

牛魔王与芭蕉扇
2025-07-14 16:21:23
民调:若梅朗雄在法国总统选举中胜选,69%犹太人可能考虑移居国外

民调:若梅朗雄在法国总统选举中胜选,69%犹太人可能考虑移居国外

阿尔卑斯瞭望
2026-11-17 18:47:39
英伟达员工爆料:飞机随便坐、电梯随便搭,为什么没人敢用?

英伟达员工爆料:飞机随便坐、电梯随便搭,为什么没人敢用?

一盅情怀
2026-11-17 12:17:13
CBA最敬业的外援!被8支CBA球队拒绝后:他终于找到下家了?

CBA最敬业的外援!被8支CBA球队拒绝后:他终于找到下家了?

篮球快餐车
2026-11-18 06:16:27
波切蒂诺第一刀!曼联 3650 万水货直接弃用!冬窗或被清洗

波切蒂诺第一刀!曼联 3650 万水货直接弃用!冬窗或被清洗

澜归序
2026-11-18 09:41:57
气象局预警!11月可能迎来史上超强厄尔尼诺,家家户户早做打算

气象局预警!11月可能迎来史上超强厄尔尼诺,家家户户早做打算

兴趣知识
2026-11-18 03:00:47
美媒:中国歼-35,将迎来重大升级,或研发双座版歼-35S,并扩大内置弹舱尺寸

美媒:中国歼-35,将迎来重大升级,或研发双座版歼-35S,并扩大内置弹舱尺寸

蓝星杂谈
2026-11-18 08:53:13
12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

温读史
2025-11-09 09:25:54
勒庞称若当选总统将不再为乌克兰提供财政援助

勒庞称若当选总统将不再为乌克兰提供财政援助

新华社
2026-11-17 10:30:03
“最快女护士”张水华称现在跑步就像上班,不上夜班后压力少了,睡眠也好一些;本周末,她将挑战黄石马拉松,女子第一名奖金为10000元

“最快女护士”张水华称现在跑步就像上班,不上夜班后压力少了,睡眠也好一些;本周末,她将挑战黄石马拉松,女子第一名奖金为10000元

南方都市报
2026-11-17 19:07:01
南京男子回家迫不及待抱住妻子,结果家中鹦鹉一开口,让他崩溃!

南京男子回家迫不及待抱住妻子,结果家中鹦鹉一开口,让他崩溃!

白云故事
2025-03-14 19:05:07
太出乎意料!俄炼油厂屡遭无人机袭击,靠的是中国装备快速复产?

太出乎意料!俄炼油厂屡遭无人机袭击,靠的是中国装备快速复产?

古书奇谈
2026-11-16 21:35:03
黑色幽默!电诈园区办公室中文标语,简直是天大的讽刺

黑色幽默!电诈园区办公室中文标语,简直是天大的讽刺

麦大人
2025-11-06 08:32:30
历史性的首次中俄美元首面对面会晤

历史性的首次中俄美元首面对面会晤

新民周刊
2026-11-17 09:05:42
2026-11-18 10:28:49
经济观察网 incentive-icons
经济观察网
以“理性、建设性”为基本价值观,赋能中国商业全球决策的财经资讯平台
11825文章数 76925关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

雷军在深圳发言被调侃"有点社恐" 小米:紧张太正常啦

头条要闻

雷军在深圳发言被调侃"有点社恐" 小米:紧张太正常啦

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

回归英伟达,黄仁勋要先“干掉董事会”

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

手机
健康
本地
时尚
公开课

手机要闻

小米18亮相APEC,雷军一句话没讲,行业却炸锅了

医生眼里"很伤腰"的椅子,很多人天天坐

本地新闻

乌兰察布:以前种土豆,现在种Token

西北最贵专列?从西宁到敦煌的“丝路梦享列车”到底值不值?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版