在乌镇，解密前沿AI模型高质量发展“安全密码”

　　中国青年网北京11月11日电（记者 宋莉 李永鹏 张玘云 见习记者 刘雅欣）全球AI技术正以指数级速度演进，大模型已成为推动数字经济发展的核心引擎。但与此同时，算法偏见、数据隐私、伦理风险等挑战也如影随形。11月8日，2025年世界互联网大会乌镇峰会前沿人工智能模型论坛在浙江乌镇举行。与会嘉宾围绕人工智能模型安全与治理议题展开深入探讨。

　　时代共识：安全是AI浪潮澎湃发展的生命线

　　在《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》中，“人工智能”一词被提及8次，“算力”提及2次。“十五五时期”关于算力和人工智能产业的重点任务更加明晰。国家互联网信息办公室副总工程师吴东表示，站在2025年的节点回望与展望，AI浪潮的澎湃之势远超想象，但不可忽视的是，人工智能的发展始终伴随着数据质量参差、技术人才短缺、伦理争议等问题。

　　“确保人工智能技术发展行稳致远，安全是前提，更是底线。”中国网络空间安全协会副理事长卢卫指出，人工智能快速发展的进程中，安全风险愈发复杂严峻，这就要求必须将人工智能的健康发展置于规范有序的轨道之上。

　　前瑞士网络防御代表、数字演进基金会主席杰拉尔德·韦内兹则从风险管理视角出发，指出数字变革是不可逆的演进，需要采取明智方法应对挑战，“真正的问题不在于工具本身，而是我们如何使用工具”。

　　治理之道：全生命周期防控，打造有“温度”的AI

　　在AI安全治理层面，业界与学界多次提到“全生命周期防控”这一治理理念。

　　据了解，新修订的《中华人民共和国网络安全法》增设了人工智能专门条款，最新发布的《人工智能安全治理框架2.0》也融入了“统筹发展与安全”的核心原则。在卢卫看来，这一系列部署将安全要求贯穿于人工智能模型设计、研发、部署、应用的全生命周期，旨在构建安全、可靠、可控的人工智能发展生态。卢卫提出四大关键路径，即强化底线思维，将安全内嵌于模型设计、训练、部署全流程；聚焦数据安全、算法透明、内容审核、供应链安全四大关键环节，提升治理精准度；推动政府、企业、科研机构协同共治，加强国际合作；构建包容审慎的监管环境，实现创新与安全良性互动。

　　美国信息产业机构（USITO）总裁缪万德从国际治理视角补充，中美欧在AI治理框架上存在诸多契合点，应通过兼容互通的治理模式，助力AI技术跨境跨领域应用。

　　中国人民大学党委副书记郑水泉说：“近年来，中国在个人信息保护、数据安全、算法备案、生成式人工智能管理等领域逐步形成了系统性的治理框架，为中国人工智能的安全发展奠定了坚实基础。”结合高校实践经验，他建议通过构建自主训练数据集、融入可信算法技术、建立多层次内容审核机制，打造“有温度的人工智能”。

　　技术实践：AI安全并非束缚创新的枷锁

　　面对AI安全的复杂挑战，企业界推出一系列务实解决方案。360数字安全集团总裁胡振泉提出“以模制模”思路，指出AI存在“一切可编程、一切可模仿、一切可生成、一切皆可调度”等先天基因缺陷及外部威胁，可通过“可靠、可信、向善、可控”四大安全智能体蜂群，构建全链路防护体系。

　　“大模型的监管肯定会逐渐成为常态化，就像网络安全和数据安全一样。”安恒信息首席技术官刘博分享了“四横四纵”安全框架，从语料安全、内容安全、运行环境安全等维度，通过智能脱敏、实时检测、访问控制等技术手段，解决 AI应用全场景安全痛点。

　　思科大中华区资深副总裁兼首席技术官侯胜利则聚焦基础设施支撑，强调大模型发展对机柜内、数据中心内、跨数据中心网络带宽的超高需求，需依托以太网技术创新构建高性能网络架构，并建立统一的全生命周期AI安全防护标准。

　　美国国家研究计划公司（CNRI）标准与技术开发总监孙洵介绍了数字对象架构（DOA）的创新应用，通过实现私域数据独立管理与跨系统整合，从根源上破解数据孤岛与安全共享难题，已在医疗、海关、供应链等领域落地实践。“希望在一个企业内部构造AI安全的时候，或者做防护安全的时候，做全生命周期的安全防护和安全治理。”孙洵说道。

　　高水平的AI安全并非束缚创新的枷锁，而是激发产业活力的保障。吴东呼吁加强关键核心技术攻关，支持开源开放平台建设，推动AI从消费互联网向产业互联网、民生领域深度渗透，让智能浪潮从“盆景”变成“风景”。