驭智善治、筑牢屏障，绘就人工智能安全发展新图景

　　秋染层林，惠风和畅，九月的昆明，滇池波光潋滟。9月17日，2025年国家网络安全宣传周人工智能安全治理分论坛在云南昆明举行。专家学者代表齐聚滇池之畔，围绕人工智能风险挑战、治理举措、应用安全、算法安全等议题展开深入探讨，并分享了最新研究成果与政务、金融、交通等领域的实践经验，还发布了中文互联网基础语料3.0、生成式人工智能安全测评基准数据集、人工智能安全行业自律倡议等成果，为构建协同共治的人工智能安全生态注入新动能。

　　当前，人工智能技术正以前所未有的深度与广度重塑世界格局，深度融入经济社会发展各领域全过程。从大模型训练到安全测评，从算力供给到应用落地，面对层出不穷的风险挑战，传统治理方法已难以应对。如何推动AI安全、可信、普惠地发展，成为人工智能安全治理的重要命题。

　　阿里巴巴集团安全部副总裁薛晖表示，今天我们面临的挑战，是复合型风险带来全球挑战。其交叉性鲜明的特点，导致不同类型的“安全”问题往往相互交织，既有传统攻防问题，也有模型内生的安全与失控问题，更延伸到对社会可持续发展的深远影响。

　　谈及当今时代人工智能的特点，中兴通讯网络安全首席专家王继刚分析说，能够自我决策、不依赖于人的判定、能够调用其可触及的所有资源是人工智能的三大特点。也正是如此，人工智能的攻击面和潜在影响更显庞大复杂。

　　“安全，是治理的核心。”中国工程院院士吴世忠表示，人工智能在改变国际力量对比，重塑国际格局时的战略定位性质特殊，其影响尤为深远。把握人工智能安全风险，既是全球博弈的核心议题，也是治理体系的逻辑起点——没有安全问题，就没有治理问题。

　　人工智能治理将走向何方？本次论坛给出了答案——让AI更安全，让安全更AI。这也是本场论坛的主题。这一理念既是对当前挑战的回应，也是对未来发展的引领。

　　中国网络空间安全协会秘书长郝晓伟表示，在今天，人工智能不仅驱动新质生产力推动高质量发展，也为各行业、各领域积极融入“人工智能+”提供了行动指南，可以说人工智能正在深刻改变我们的生产生活方式。也正是如此，“让AI更安全，让安全更AI”，才变得尤为重要。

　　“我们要以‘AI攻击’的视角，重新来审视网络安全防御的准确性和有效性，这是很重要的思维。”在安恒信息董事长范渊看来，当前AI驱动的攻击更加隐蔽、更加高效、成本也更加低廉。“让安全更AI”不仅是技术工具的升级，更是认知层面的升维。

　　蚂蚁消费金融首席信息官刘义深有同感。他认为，面对快速迭代的人工智能技术，传统安全手段已难以匹配指数级上升的威胁，智能化攻击往往无迹可寻，留给防御的时间窗口极为有限。“因此，‘用AI治理AI’成为了必然选择。”刘义说。

　　从赋能千行百业，到与千行百业共进，人工智能正以前所未有的力量塑造着人类的现在与未来。无论科技如何变革，人工智能都应当为人类所利用、为人类所掌控，始终朝着“向善普惠”的方向发展。

　　“我们应始终把‘人’作为安全的最后防线，不应因人机协同模式干扰或削弱人的独立判断能力。”在国家工业信息安全发展研究中心总工程师张格看来，人工智能安全治理是一项系统工程，需要各方协同努力，构建“多元协同、责任共担”的安全生态。

　　中国科学院计算技术研究所副所长程学旗表示，算法治理是人工智能治理的重要问题。他认为，算法安全包含三个层级：一是算法生成式的内生安全性问题，二是算法的滥用问题，三是人机共生问题。“人工智能的发展与安全是相辅相成，建立更统一、科学、开放的体系才是解决问题的关键所在。”

　　国家计算机网络应急技术处理协调中心处长认为，面对新发展态势，构建多场景、动态化、规范化的测评能力至关重要。基于此，本次论坛上还发布了生成式人工智能安全测评基准数据集，旨在提升行业测评技术的科学规范水平，更加客观全面地评估模型风险，促进人工智能在各个领域的可信应用。

　　本次论坛由中央网信办网络安全协调局、网络管理技术局、网络执法与监督局指导，中国网络空间研究院、国家计算机网络应急技术处理协调中心、中国网络空间安全协会主办，《中国网信》杂志、光明网、安恒信息技术股份有限公司承办。来自政府部门、科研院所、互联网企业等单位的150余位嘉宾参加论坛。（光明网记者 赵鹏超）

[ 责编：曾震宇 ]