聚焦乌镇 | 吴云坤：AI安全需要需管住“框数人链”四个关键环节

来源：市场资讯

（来源：奇安信）

11月8日，2025年世界互联网大会乌镇峰会人工智能技术创新与治理论坛在浙江乌镇举行。国家互联网信息办公室副主任王京涛出席论坛并致辞。来自奇安信、阿里巴巴、SAP、快手、腾讯、思科的企业代表出席，围绕人工智能技术创新与治理分享实践经验、共话行业未来。

奇安信集团总裁吴云坤在《守住安全底线 保障AI创新发展》的主题分享中表示，安全是AI的底线和红线，也是AI发展的基础和前提，AI创新必须管住“框、数、人、链”四个关键环节，核心方法是系统性、体系化地构建AI全生命周期的安全体系。

以奇安信自身为例，设计了AI安全治理框架，指导用户围绕“安全、合规、可控、负责任”四大目标，从模型安全治理、数据和隐私、应用和运营、基础安全、人员与责任、持续改进六个维度，构建覆盖AI全生命周期的安全防护体系，同时重点管好“框、数、人、链”四个关键环节。

首先对AI应用进行场景化防护，管好“框”和“人”。

围绕AI应用及其场景部署大模型卫士，构建“管控-检测-溯源”三位一体的防护体系，实现对大模型系统内外部用户访问与交互的全流程管控，达成“管得住、看得清、防得稳”的防护目标。

目前，大模型卫士已经在政府机构、大型央企等近百家客户完成了验证，能有效防御提示词注入、敏感内容过滤、模型对抗攻击、模型窃取、数据泄露等多种安全风险。

其次是对AI核心数据资产重点防护，管好“数”。

围绕保护核心数据资产，构建“大模型安全护栏”，从“强基础、控权限、审数据、拦攻击”等多个维度构建纵深防御与监测能力，对大模型系统进行防护，控制数据安全风险。

奇安信已投入了巨大的资源和成本训练安全模型，积累关键和核心数据资产，通过构建“大模型安全护栏”，对SFT数据、标注数据、RAG数据、模型文件、评估集等核心数据资产进行强化防护，守护住了模型训练成果。

最后是强化AI全生命周期的安全评估，管好“链”。

秉持“安全左移”理念，将安全评估与风险管控贯穿大模型研发、部署、运维全生命周期。

• 在开发阶段，通过代码审计、代码修复确保模型安全；

• 上在线前，通过实战攻防演练检验应用安全；

• 在运行中，持续监测模型的输出异常、数据泄露风险确保业务安全。

今年3月，奇安信支撑某电信运营商进行了大模型底座的安全评估，成功发现并修复了其大模型存在的多个系统漏洞和内容防护机制缺陷，将隐患扼杀于萌芽状态。

据悉，本次论坛由中央网信办网络管理技术局发起，中国科学院、中关村实验室主办，中国科学院计算技术研究所、中国网络空间安全协会、百度公司协办。来自中央和国家机关、中央新闻网站、国内外知名专家及互联网企业等各界代表参会，共商AI技术创新与治理之道，为行业健康发展注入新动能。