北京
12月1日，由中国互联网协会主办，中国信息通信研究院（简称“中国信通院”）承办，北京市通信与互联网协会、云计算标准和开源推进委员会联合协办的2025“人工智能+”产业生态大会“人工智能与安全论坛”在京召开。本届论坛聚焦人工智能安全治理发展趋势，从产业发展、关键技术、应用实践等角度，全面展示中国信息通信研究院最新研究成果，各行业专家围绕前沿的行业研究与落地实践经验开展交流分享，为行业探寻一条高质量发展之路。
中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国、北京市通信管理局党组成员、副局长王晖、中国信通院党委副书记王晓丽等领导出席会议并致辞。致辞环节由中国信通院云计算与大数据研究所副所长栗蔚主持。
中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国表示，人工智能正成为全球科技竞争的最前沿，统筹人工智能的发展与安全已成为关乎产业全局的关键议题。为此，赵志国提出三点建议：一是筑牢技术根基，聚焦可信算法、对抗防御等核心技术，构建具备内生安全能力的人工智能底座；二是深化融合应用，拓展人工智能在威胁识别、态势感知等场景的深度应用，提升风险响应与防护能力；三是完善治理生态，加快标准体系建设，推动产业协同与国际合作，共同营造安全、可信的人工智能发展环境。
北京市通信管理局党组成员、副局长王晖表示，“十五五”规划建议提出要“加强网络、数据、人工智能等新兴领域国家安全能力建设”，为我们下一步工作提供了根本遵循。信息通信与人工智能深度融合，积极赋能科技、产业、消费、民生、治理、全球合作等重点领域。未来，我们将围绕突出政策引领、夯实安全基础、强化技术攻关等方面，全面筑牢信息通信行业网络和数据安全防护底座，以高水平安全护航人工智能产业高质量发展。
中国信通院党委副书记王晓丽表示，坚持发展与安全并重、统筹人工智能的创新应用与安全治理，是保障人工智能健康有序发展的核心前提与必然要求。总体看，我国人工智能安全产业发展正迈入高质量发展轨道，政策环境持续优化，技术创新应用不断涌现，产业融合持续深化升级。未来，中国信通院将坚持使命定位，持续布局人工智能安全产业前瞻领域研究，大力推动产业基础设施生态与标准体系建设，促进相关产业创新发展。
在成果发布环节，中国信通院发布一系列最新研究和实践成果。这些成果既凝结着对行业痛点的深度剖析，也展现了产学研用协同攻关的突破性进展，为企业人工智能安全建设提供了兼具前瞻性与落地性的智力支撑。
为积极营造安全可信网络生态环境，中国信通院面向创新安全技术领域供需双方开展“可信安全”系列评估，覆盖可信云安全、可信AI云安全等领域，成为新安全技术领域研发、选型和应用的重要参考。论坛公布了最新一批的可信安全评估结果。
可信云安全系列评估
可信AI云安全系列评估
为深入贯彻落实中央经济工作会议关于“以科技创新引领新质生产力发展，开展‘人工智能+’行动，培育未来产业”的重要精神，中国互联网协会举办首届“AI领航杯”“人工智能+”应用与技能大赛，中国信息通信研究院承办其中的“AI+安全”赛道。经过初赛、决赛及全国总决赛的激烈角逐，最终评定出获奖项目48个。其中，一等奖项目3个；二等奖项目8个；三等奖项目15个；优秀奖项目22个。中国互联网协会副秘书长裴玮在论坛上公布了AI安全赛道获奖结果。
“AI领航杯”AI+安全赛道一等奖项目发布
“AI领航杯”AI+安全赛道二等奖项目发布
“AI领航杯”AI+安全赛道三等奖项目发布
“AI领航杯”AI+安全赛道三等奖项目发布
“AI领航杯”AI+安全赛道优秀奖项目发布
“AI领航杯”AI+安全赛道优秀奖项目发布
在数字经济与人工智能深度融合的背景下，云计算为智能体规模化落地提供了核心支撑，促使云上智能体迎来爆发式发展，并广泛应用至政务、通信、能源、金融等关键行业。然而智能体特性带来了如身份伪造、决策失控等多重安全挑战，构建适配行业需求的安全防护体系已成为产业迫切需求。
在此背景下，中国互联网协会、云计算标准和开源推进委员会联合相关企业，依托各方在云上智能体安全领域的研究成果与实践经验，围绕云上智能体发展背景、安全防护体系建设路径以及安全产业未来发展趋势形成《云上智能体安全发展研究报告》，旨在为云厂商、安全厂商、行业用户等相关主体提供智能体安全建设参考与实践指引，推动我国智能体行业在安全可信道路上趋深行稳。论坛上，中国互联网协会副秘书长裴玮和中国通信标准化协会TC608云计算标准和开源推进委员会主席、中国信息通信研究院云大所副所长栗蔚对报告进行了发布。
《云上智能体安全发展研究报告》发布
《云上智能体安全发展研究报告》致谢单位及个人
端云协同高效联动，推动了智能体在金融、通信、政务等关键领域的规模化落地应用。然而随着智能体与用户、应用的交互场景频次与复杂度不断攀升，带来了如身份冒用、权限滥用、数据泄露等诸多安全风险，严重威胁着用户隐私与应用的安全。构建由用户和应用双重授权的安全机制，已成为产业规范发展的迫切需求。在此背景下，云计算标准和开源推进委员会联合中国信息通信研究院、北京邮电大学、北京国家金融科技认证中心有限公司、天翼安全科技有限公司等相关单位，依托各方在端云协同技术、智能体安全、授权认证等领域的研究成果与实践经验，围绕端云协同智能体交互场景特性，研制形成《端云协同 智能体交互双重授权安全指引》，并在会上正式发布。为相关主体提供智能体交互双重授权的安全建设与实践指引，推动智能体在我国更多场景的落地应用实现安全合规发展。论坛上，中国信息通信研究院云大所副所长栗蔚和北京邮电大学网络空间安全学院副教授徐国胜共同对指引进行了发布。
《端云协同智能体交互双重授权安全指引》发布
2025年，智能体产业生态迎来爆发式增长，智能体依托云计算核心算力支撑实现规模化落地，深度渗透政务、金融等核心关键领域的同时，其安全风险也随应用深化同步凸显。中国信通院云计算与大数据研究所开源和软件安全部主任郭雪分享了“云上智能体安全风险洞察与应对实践”暨《云上智能体安全发展研究报告》解读。
郭雪表示，当前云上智能体正处于规模化落地的关键窗口期，既要看到其在垂域场景中释放的创新价值，更要正视技术演进伴生的安全挑战。云上智能体风险已呈现出传导速度快、影响范围广、隐蔽性强的演化特征。安全防护体系建设需兼顾技术适配性与落地可行性，通过标准引领规范、技术创新突破、生态协同三维共治，筑牢云上智能体安全发展底座。
云上智能体安全风险洞察与应对实践
中国信通院云计算与大数据研究所开源和软件安全部马铭洋围绕“云上人工智能安全态势发展思考与洞察”主题展开分享，从云上人工智能的演进脉络切入，剖析了其在多场景落地过程中凸显的安全风险，系统梳理了当前云上人工智能安全产业的发展格局，就安全治理路径进行了多维度深度探析，并对行业未来发展趋势作出展望。
马铭洋提出，面对人工智能催生的新型安全威胁，传统安全工具已难以有效抵御，“AI对抗AI”将成为未来安全防护的核心方向。人工智能进一步加剧了网络攻防的不对称性，产业层面亟需攻克智能化安全技术瓶颈。当前，安全产业正以人工智能为核心引擎，驱动技术创新与产品迭代双向升级，推动安全体系向内生防御、主动智能及韧性自治的方向转型。
云上人工智能安全态势发展思考与洞察
在专题分享环节，中国信通院邀请中国移动集团数智化部研发创新中心副总经理吴晶、中电信人工智能科技（北京）有限公司AI安全总监丁扬、360数字安全集团副总裁余凯、北京兴云数科技术有限公司信息安全总监冯鑫等嘉宾围绕行业实践进行专题分享。
中国移动集团数智化部研发创新中心副总经理、人工智能可信监管治理北京市重点实验室执行主任吴晶围绕“数字可信体系+可信AI探索实践”主题进行分享。
中电信人工智能科技（北京）有限公司AI安全总监丁扬围绕“大模型安全能力建设与运营实践”主题进行分享。
360数字安全集团副总裁余凯围绕“360大模型卫士——构建AI安全新基建”主题进行分享。
北京兴云数科技术有限公司信息安全总监冯鑫围绕“Agentic SOC：构建企业安全运营新范式”主题进行分享。
启明星辰信息技术集团股份有限公司副总裁周涛，奇安信集团广西人工智能安全研究院副院长、AI安全实验室主任王茜，中国电信安全公司副总工程师、中国电信集团首席专家常力元围绕“智能化时代下，人工智能安全的挑战、机遇与破局之道”主题展开圆桌对话与深度分享。
云计算作为人工智能健康发展的能量基石，促进AI原生应用从概念探索迈入规模化落地阶段。其核心架构通过联动云基础设施形成全链路运转模式，使身份伪造、模型投毒等风险更具隐蔽性。传统事后补丁式的防护体系难以实现有效管控，建立基于云计算的AI原生安全防护标准成为产业得迫切需求。
在此背景下，中国信息通信研究院于会上启动《AI原生云安全能力成熟度要求》撰写工作，旨在明确AI原生云安全能力核心维度、评价框架、指标体系等关键内容，为各类主体提供建设与评估指南。加速基于云计算的安全技术与AI原生场景适配，为应用规模化落地筑牢安全底座。
《AI原生云安全能力成熟度要求》标准研制启动
随着2025“人工智能+”产业生态大会——人工智能与安全论坛落幕，中国信通院将持续发挥产业创新发展平台作用，通过标准制定、产业研究、测试评估等机制，推动云上人工智能安全产业高质量发展，为数字经济提供坚实的安全保障。展望未来，随着产学研用各方的深度协同与持续深耕下，一个兼具安全可信、开放协同的人工智能安全新生态将持续演进，为全球数字经济的蓬勃发展筑牢安全根基、注入持久动能。
本文来自网易科技报道，更多资讯和深度内容，关注我们。
