AI治理升维：智能决定走多远，信任决定走多近

来源：市场资讯

（来源：中国经济时报）

AI+：向新·向深·向善系列报道③

■中国经济时报记者 王彩娜

人工智能是新一轮科技革命和产业变革的重要驱动力量，正加速从数字世界向物理世界纵深拓展，技术泛在化、场景全域化、决策自主化的发展态势，也催生了一系列新型风险与治理难题。推动人工智能朝着有益、安全、公平方向发展，是全球共同课题。

中共中央政治局7月30日召开会议，明确部署“完善人工智能治理体系”。接受中国经济时报记者采访的专家认为，这一部署标志着安全与发展已成为对等的战略命题，治理正从被动应对转向主动塑造，政策体系正从碎片化走向一体化。受访专家们共同呼吁，应在发展与安全之间寻求动态平衡，通过激励相容机制让安全从合规成本转化为市场资产，并以开放合作的姿态为全球人工智能治理提供中国方案。

战略升维：从附属条件到核心支撑

“过去，治理常被视作发展的附属条件；眼下，安全与发展正在成为对等的战略命题。”赛迪研究院电子信息研究所数智技术研究室副主任王丽丽在接受中国经济时报记者采访时表示，这体现了国家对人工智能发展规律的新认识，随着AI向经济社会各领域深度渗透，仅靠事后监管已不足以应对复杂风险，必须建立覆盖从研发、部署到应用的全链条风险防控体系。她进一步指出，政策体系正从碎片化走向一体化、从“被动应对”跨向“主动塑造”，也在全球视野下开启了从“技术追赶”到“规则引领”的转变。“完善人工智能治理体系，本质上是在提升国家层面对新兴科技的掌控能力和制度创新能力。”王丽丽说。

赛智产业研究院院长赵刚在接受本报记者采访时从产业生态视角解读称，完善人工智能治理体系，有利于全社会共同应对安全风险和挑战，也有利于促进各方平等参与，构建更加公平普惠的应用生态。

“人工智能发展正式进入技术应用与体系治理双向并行的新周期，跳出了‘技术决定一切’的单一路径依赖。”北京市社会科学院管理研究所副研究员王鹏在接受本报记者采访时，将当前阶段定义为人工智能发展的“治理下半场”。他强调，治理不再是产业发展的配套约束，而是与赋能千行百业同等重要的核心支撑。

产业一线的感知更为直接而深刻。在硅基守望联合创始人兼首席执行官张杰看来，“‘人工智能+’解决的是‘走多远’的问题，治理体系解决的是‘走多近’的问题——能不能走近金融、医疗、政务和千家万户”。他回顾技术史指出，每一次通用技术的大规模社会化，都伴随着一套独立验证体系的建立。当智能体开始代替人类执行真实世界任务时，其行为若不可验证、不可追溯、不可干预，就难以进入经济社会的核心环节。“智能决定人工智能能走多远，信任决定人工智能能走多近。没有信任基础设施，‘人工智能+’加不进去。”张杰说。

人工智能治理体系的完善之路并不平坦。赵刚提醒，部分治理规则滞后于技术迭代，监管执行存在“原则性规定多、可操作性条款少”甚至“无法可依”的堵点。王鹏同样警示，既要防止规则迭代滞后造成的“治理赤字”，也要避免过度监管压制产业创新活力。张杰则从技术层面直击要害：当前治理制度主要针对“会说话的人工智能”，管的是内容风险；而“人工智能+”的本质是让AI进入实体经济的执行环节，治理的增量空白正从内容风险转向行为风险，这对现有框架提出了全新挑战。

平衡之道：在“油门”与“刹车”之间寻找确定性

发展与安全常被喻为“油门”与“刹车”。如何既不被风险击穿底线，又不让过度谨慎窒息活力？

王丽丽的答案是动态平衡：“不是松开油门来踩刹车，而是两个踏板同时协调运作。”平衡点在于分级分类监管，对风险较低、影响范围有限的应用，应更多给予创新空间；对可能深度影响公共利益、重要权益和社会运行的应用强化风险评估、测试验证和持续监管。同时，规则必须紧跟技术迭代动态调整。

赵刚强调，“安全是发展的前提，发展是安全的保障”，必须强化风险意识和底线思维，系统应对模型幻觉、决策黑箱、算法歧视、数据泄露和深度伪造等问题。

王鹏则把平衡点落在“敏捷治理”框架内：在明确的风险阈值内最大限度减少行政干预，给技术创新留足试错空间；一旦行为触及安全红线，立刻启动差异化监管处置，兜住底线而不扼杀活力。

产业界对平衡的理解更为务实，甚至修正了“刹车”的比喻本身。张杰直言：“刹车不是用来让车开慢的，恰恰是好刹车让人敢把车开快。”他观察到，今天许多企业不敢把智能体放进核心业务，并非因为监管太严，而是因为“出了事说不清、兜不住”，安全能力的缺位才是真正的减速带。因此，平衡点应该画在“可验证性”上，而不是画在“不出错”上。“我们不应要求人工智能永不犯错，那等于要求创新停止。我们应该要求的是：它的行为可以被看见，偏离可以被检测，出错可以被追溯，风险可以被干预。把不确定性留给创新，把确定性交给验证。”

为此，张杰提出了一套工程化的四步框架：评测、监控、溯源、保险。上线前，让智能体在尽可能多的风险场景中“过筛子”，做全面评测；运行时，通过可解释性技术读取模型内部状态，而非仅仅看它输出了什么，实现类似“读心术”的监控；溯源则如同飞机“黑匣子”，完整留存行为记录，让责任可厘清；保险则是把风险转化为可定价的商业问题，成为社会敢于放手让新技术跑起来的推进器。“不是在发展和安全之间找折中点，而是用安全基础设施把发展的天花板抬高。”

治理不能只靠政府“一头热”，让“我要治理”成为产业链的内生冲动，需要设计精巧的激励相容机制。赵刚认为，应当通过市场化激励、制度激励、成本激励和声誉激励等多重杠杆，将“履行治理责任”从一种外部强加的“成本”转变为能够带来切实利益、赢得市场尊重的内在“刚需”。王鹏补充，要明确企业安全主体责任，将合规情况与政策扶持、算力资源倾斜、市场准入便利等激励挂钩，推动行业自律标准与监管规则协同对接，打通社会公众参与治理的反馈渠道。

“关键是让安全从合规成本变成市场资产，企业不会为应付检查真心投入，但会为三样东西真心投入：拿得到订单、保得了险、进得了场。”张杰列出了三条具体路径：在采购环节建立独立第三方安全评估的采信机制，让安全评估报告成为拿订单的敲门砖；推动风险可保险化，让安全水平高的企业直接获得更低保费的财务回报；在地方监管沙盒探索“验证换通行”，企业以接受持续行为监测换取更大的试错空间。他同时提醒，激励相容不等于利益捆绑，必须培育独立、中立、以确定性技术为根基的第三方验证生态，避免验证方与被验证方利益深度绑定。

中国方案：为全球人工智能治理提供公共产品

国内治理体系的完善，正在为中国参与全球人工智能治理提供坚实的制度支撑。多位受访专家认为，中国正从全球AI治理的积极参与者走向主动推动者，这一角色转变由发展实力、应用规模和大国责任共同促成。

王丽丽分析，过去我们是规则讨论的积极参与者，今天随着大模型应用加速落地，中国不仅有责任解决自身问题，更有责任为全球特别是发展中国家提供公共产品。她观察到，中国倡导的“以人为本、智能向善”理念，与部分西方治理路径的差异，核心在于对“发展权”和“普惠性”的理解。一些国家的治理框架，更多是从风险防控、技术管制和国内规则外溢的角度出发，很容易把AI治理变成技术壁垒，甚至与阵营竞争绑定。而中国更强调发展与安全并重，反对少数国家垄断技术和算力资源从而制造“智能鸿沟”。这种差异对全球南方国家意义重大：许多发展中国家最紧迫的问题并不是AI发展过快带来的风险，而是基础设施不足、数字能力薄弱、人才供给匮乏。中国倡导的开放合作、能力建设和技术普惠，恰恰提供了一条更重视发展机会、更强调自主选择权的全新路径。

赵刚从具体实践中看到了中国角色的切实转变。中国积极倡导开源模型，为全球南方国家提供降低技术准入门槛、增强数字主权和本地创新能力的普惠机遇；建设国际人工智能应用合作中心，在尊重各国发展差异的基础上推进协同治理。这些措施着眼于“授人以渔”，助力全球南方从技术跟随迈向成果共享、从被动接受转向主动参与。

中国政法大学法学院教授、中国法学会法理学研究会理事郑玉双认为，未来我国综合性立法和治理实践形成的制度经验，可以为国际社会特别是广大发展中国家提供可借鉴的治理方案。例如，最新制定的《人工智能拟人化互动服务管理暂行办法》，在全球范围内属于比较领先的针对人工智能拟人化互动服务的法律规范，具有广泛的参考价值。

当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？这些问题，中国正在用行动作答。而治理体系的完善，正是为了让这匹“千里马”既跑得快、又跑得稳。

总 监 制丨杨玉洋车海刚

监 制丨陈 波刘卫民

审 核丨周子勋编 辑丨陈姝含