时报访谈 | 人工智能全生命周期治理：多元工具如何发挥协同作用

——访北京大学教授、国家人工智能标准化总体组AI治理专题组组长张平

■中国经济时报见习记者 姚俊臣

人工智能(AI)治理已成为攸关各国前途命运的重要议题。10月9日，中共中央、国务院印发的《关于发展新质生产力的意见》(以下简称《意见》)对外发布，以专条部署“全面实施‘人工智能+’行动”，明确构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。如何准确把握治理要求?如何构建覆盖全生命周期的治理体系?如何探索更加多元的治理工具?就上述问题，中国经济时报记者日前专访了北京大学法学院、人工智能研究院双聘教授，国家人工智能标准化总体组AI治理专题组组长张平。

01

理解安全、可靠、可控的内涵

准确把握三者关系

中国经济时报：《意见》提出“确保人工智能安全、可靠、可控”。在治理语境下，这三个词的指向有何不同?如何理解三者的关系?

张平：在治理语境下，AI的可靠、可控、安全分别对应三类要求，指向不同，承担义务的主体和适用的治理工具也应有所不同。

可靠性是技术质量要求，指系统能够按照设计目标稳定运行并输出准确结果。大模型的“幻觉”、提示词“注入”下的安全准则偏离、自动驾驶系统的识别错误等都属于可靠性不足的范畴。这类问题集中出现在模型研发和训练环节，责任主要由研发者和服务提供者承担。因此，治理重心应主要落在技术标准和测评体系上。

可控性是人机关系要求，核心是人类对AI保留最终决定权。2026年9月发布的《人工智能安全治理框架》3.0版(以下简称“框架3.0版”)就将“人类最终控制”列为人工智能基本准则的第一条。具体而言，AI系统偏离预期时，必须有明确主体能够发现问题、接管系统并承担责任;在医疗、司法、金融等涉及个人重大权益的场景中，不得省略人工复核和人工接管程序;随着智能体开始自主调用工具、执行跨系统任务，可控性要求还将进一步提高。

安全性是结果底线要求，指系统运行和使用不得对个人、社会和国家造成损害，涵盖网络、数据安全、人身财产安全、社会秩序和国家安全等。技术可靠不等于系统安全，如果系统被用于制造虚假信息或实施诈骗，同样会危害安全。因此，安全问题必须由法律划出红线并对滥用行为追责。

在三者关系中，可靠性是安全的技术基础，可控性是技术失效时防止损害扩大的保障，安全性则是治理的最终目标。在治理分工上，可靠性主要通过标准和测评加以规范，并随技术进步不断调整;可控性主要靠法律确认人类最终控制，不能因商业利益而让步;安全性则需要法律明确底线与责任后果。如果混淆了三者，容易出现两种偏差：一是把技术缺陷当作安全事件加重企业负担;二是把法律底线交给企业导致底线失守。

02

构建全生命周期治理体系

按环节配置责任义务

中国经济时报：从研发、训练到部署、应用，技术监测、风险预警、应急响应机制如何在AI的全生命周期中落地?当前哪个环节的机制建设较为薄弱?

张平：《意见》将“技术监测、风险预警、应急响应机制”写入全面实施“人工智能+”行动条款，与算力、算法、数据供给和高价值应用场景布局并列，表明安全机制须与推广应用同步建设。三项机制要在全生命周期中落地，关键在于按环节配置义务，由各环节最有能力发现和处置风险的主体承担相应责任。

在研发和训练阶段，监测重点是训练数据来源质量与模型能力边界。研发者应在发布前开展安全评估和红队测试，识别模型是否具备可能被滥用的抗风险能力，并通过安全对齐降低有害输出。这一阶段的预警主要依托发布前评估，在达到风险阈值时，应暂缓发布、补充安全措施或限定发布范围。

在部署阶段，重点要解决服务上线前的准入问题。我国已经逐步形成相对完整的事前管控制度：《生成式人工智能服务管理暂行办法》要求依法开展安全评估并履行算法备案手续;9月1日起施行的《人工智能生成合成内容标识办法》及配套的强制性国家标准对显式标识和隐式标识作出具体规定;框架3.0版要求采用安全护栏等技术手段，识别和拦截违法不良内容和提示词注入攻击。

在运行阶段，框架3.0版要求应用方建立运行监测、应急预案、预警阈值、人工或传统系统切换机制，并定期开展演练。修正后的《中华人民共和国网络安全法》和《人工智能拟人化互动服务管理暂行办法》也要求加强风险监测评估和安全监管，对于重大安全风险，应采取限制功能、停止向用户提供服务等处置措施。

但是，当前制度重心仍在上线前，运行阶段的监测处置及跨主体信息共享、协同响应仍然薄弱。模型备案后出现问题是否报告、向谁报告、由谁处置，普遍适用规则不清;AI风险传导性强，基础模型被大量下游应用调用，单靠企业各自监测难以应对。

下一步，应将框架3.0版提出的漏洞信息库和风险信息共享机制转化为可执行规则，明确报告范围、分级标准、时限对象，以及上游模型提供者和下游应用者在应急处置中的各自义务。

03

建立灵活适配的立法体系

探索使用多元治理工具

中国经济时报：当前，AI仍在快速迭代，风险形态尚未完全展开，治理范式该如何确立?

张平：AI立法面临的根本问题是技术不可预测性与法律稳定性之间的张力。规则过细容易过时，规则过粗难以指引，在这样的条件下，不宜急于制定体系化、强监管的综合性人工智能法。

可行路径是构建灵活适配的多层次立法体系，形成基本准则、专项立法和部门规章相结合的多层次结构。基本准则明确伦理底线、安全红线，确立以人为本、智能向善等核心原则;专项立法规范产业发展、数据和算力供给;部门规章则由医疗、金融、教育、司法等主管部门自主制定具体规则和责任标准。国务院2026年度立法计划已经提出加快综合性立法，但其在整个法律体系中的定位，以及哪些事项由法律规定、哪些事项授权规章和标准规定，仍需尽早论证。

在治理方式上，可以概括为“边发展、边治理，边摸索、边修正”，底线需要事先划定且不得突破;底线之上的大量问题，则通过标准、行业实践和司法个案逐步积累经验、形成规则。还需建立常态化的风险研判和规则评估机制，定期评估既有规则的实施效果，使规则更新建立在持续跟踪研究的基础上，避免依赖个别事件倒逼。

中国经济时报：您曾提出要探索更加多元的AI治理工具，具体包括哪些?不同的治理工具如何发挥协同作用?

张平：多元治理工具大致有以下几类：法律工具规定底线和责任，回答什么不能做、做了要承担什么后果;标准工具规定技术要求和测评方法，回答做到什么程度才算合格;管理工具如备案、安全评估、科技伦理审查，作用于研发和上线的关键节点;行业自律和企业内部治理工具如行业公约、企业伦理委员会、内部风险评估等，贴合一线实践;技术工具如内容标识、安全护栏、对抗测试，可以把规则有效嵌入系统;经济工具如责任保险、补偿基金，可以在损害发生后分散风险、保障救济。

治理工具之间需要明确分工、相互衔接。对于确需统一执行的事项如内容标识，用强制性标准落实，其他技术问题交由推荐性标准、市场检验和企业自主评估处理。在参与主体层面，应形成政府监管、行业自律、企业自治和社会监督相结合的格局。政府负责制定基础规则和实施底线监管，行业组织通过标准和伦理规范实现自我约束，企业建立内部治理机制承担主体责任，学术机构和公众通过社会监督参与治理。

总 监 制丨杨玉洋车海刚

监 制丨陈 波 刘卫民

审 核丨王小霞 发 布丨邹 朵