瞭望 | 人工智能治理：刀锋之舞

参观者在北京中关村展示中心“人工智能 +”展示区域参观（2025年6月20日摄） 鞠焕宗摄 / 本刊

　　文 |《瞭望》新闻周刊记者 钱沛杉

　　作为引领本轮科技革命和产业变革的战略性技术，人工智能已显现出其改变生产生活方式、重塑全球经济格局的巨大潜力。我国人工智能相关产业发展势头迅猛，一个涵盖基础软硬件支撑、关键技术研发、行业应用落地的完整产业生态体系正在加速形成，成为推动经济高质量发展的强劲新动能。数据显示，2024年我国人工智能核心产业规模已接近6000亿元。

　　人工智能的双刃剑效应同样突出。在驱动经济增长的同时，人工智能给世界带来了更复杂、难以预知且可能系统性扩散的风险挑战。这源于其区别于传统技术的四大核心特性：

　　系统性——人工智能并非孤立工具，而是深度嵌入经济社会运行的复杂系统网络，其影响波及广泛，牵一发而动全身；

　　跨域扩散性——一项在特定领域应用的技术缺陷或伦理失范，可能迅速扩散至其他领域，引发连锁反应；

　　价值敏感性——当前，人工智能决策主要依赖于数据与算法，蕴含在算法“黑箱”中的隐性规则，可能在重要领域引发价值失范；

　　动态适应性——人工智能大模型的持续学习和进化迭代能力，可能超出开发者初始预期，带来不可预测的风险演变。

　　这些特性加剧了技术失控的可能性：生成式人工智能被滥用于制造虚假信息乃至用于诈骗的案例频发；将带有偏见的算法应用于面部识别、招聘筛选、信贷评估等领域，可能对特定性别或社会经济背景的群体形成待遇不公；自动驾驶系统在复杂路况下可能失效引发悲剧……更进一步看，简单依赖人工智能决策可能削弱人类的自主判断力、责任归属感和人际交往深度，冲击传统社会规范、伦理基石甚至文明多样性。

　　如何在技术浪潮中坚守人类在价值判断、公平正义和文明传承中的主体性地位？这不仅关乎个体福祉，更是涉及人类文明发展根基的重要议题。

　　面对这一颠覆性技术，传统治理思路、静态监管框架与滞后治理工具可能失灵。与传统治理面对被动执行指令的工具不同，人工智能治理的对象是具有主动决策能力的动态系统。

　　其治理的复杂之处在于，需要动态平衡多个、甚至相互矛盾的目标：既要严密约束技术失控带来的系统性风险，确保基本安全与伦理底线不破，又要为技术创新与应用留出必要空间，避免过度监管扼杀发展活力；既要鼓励开放竞争与合作，加速技术进步与知识共享，又要筑牢关键技术和数据的安全防线，维护国家安全与数字主权；既要立足本国发展阶段、文化传统、法律体系等具体情况，确保治理实效，也需具备全球视野，寻求治理规则的国际兼容性，以避免碎片化加剧带来的合规难题与冲突升级。

　　这种平衡的复杂性，决定了人工智能治理已成为当下及未来最具考验的全球性议题之一。世界经济论坛发布的《2024年全球风险报告》，将人工智能生成的错误信息和虚假信息列为“未来两年全球十大风险”之首，担心其会使本就两极分化、冲突频发的全球形势进一步恶化。

　　其解决路径的探索，也早已超越了单纯的技术管理或行业规范，跃升为大国竞逐未来科技、经济乃至社会发展主导权的战略高地：谁能更有效地掌握规则制定主动权，谁就有望在这个规则塑造的过程中，更充分地保障国家安全与社会稳定，引领技术发展的范式与方向，塑造全球产业链与价值链格局，并更深层次地推广其发展理念与价值标准，在全球治理话语权竞争中占据优势地位。

　　在这场关乎未来的全球治理实验中，主要国家和地区基于自身战略考量、产业优势和文化传统，纷纷提出并实践着差异显著的治理路径。目前看来，形成了以美国、欧盟和中国为代表的三种主要范式。

　　美国立足其在人工智能基础研究、核心技术和产业生态上的领先优势，选择了基于应用场景、更加重视发展的“弱监管”模式。其思路可概括为“负责任地推动创新以最大化收益”，核心理念是通过市场化机制、行业自律规范和聚焦高风险场景的灵活监管来平衡创新与风险，主张为大部分应用提供创新友好的环境。

　　这种模式更关注人工智能发展带来的收益潜能，倾向于在“公平”的市场竞争环境中让创新自然生长，政府干预相对审慎，本质上是一种以技术发展优势维护其全球领导力的策略。

　　欧盟则延续其“数字主权”战略和“规则引领”传统，选择了基于风险划分、更加重视基本权利保护的“强监管”模式。其治理体系紧紧围绕“人”这一核心展开，重视AI技术发展对人类尊严、个体隐私、基本权利、非歧视、透明度和民主法治的潜在影响。

　　欧盟模式体现了预防性原则，追求将规则制定在前，通过清晰的禁止项、严苛的合规义务以及将基本权利置于核心地位的价值观输出，以确立其在全球AI治理规则中的标杆地位，强化其数字主权和技术主权。

　　当欧美两大经济体试图以其主导方式塑造人工智能治理版图时，中国作为人工智能应用场景极为丰富、技术发展与产业化进程迅速的主要力量，走出了一条具有自身特色的综合治理路径。

　　在国家层面，我国密集出台了包括《新一代人工智能伦理规范》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》等系列法规与指南，积极构建覆盖人工智能研发、部署、应用全生命周期的治理框架。

　　这种探索的本质，是在深刻认识到安全是发展的前提，发展是安全的保障基础上，追求一种动态平衡：一方面，大力强调基础技术创新赋能安全；另一方面，着力构建涵盖政府部门主导监管、科研机构伦理审查、行业组织制定标准、企业落实主体责任、公众参与监督反馈的“协同共治”生态，推动形成多层次、多维度的治理合力。

　　同时，中国亦积极倡导在联合国框架下建立普遍参与、具有广泛共识的国际人工智能治理框架，提出《全球人工智能治理倡议》，强调发展人工智能应坚持相互尊重、平等互利的原则，致力于推动形成开放、包容、共享的全球治理格局。这种路径力求在确保安全可控的前提下，最大化释放人工智能的经济发展与社会进步潜能。

　　纵观全球人工智能治理格局，美国倚仗其技术优势奉行灵活治理，意图在发展中掌控规则；欧盟高举规则旗帜打造“布鲁塞尔效应”，谋求价值输出与市场准入规制；中国则立足国情，尝试在发展与安全、技术创新与多元协同中开辟一条融合平衡之路。这三大路径乃至其他国家的实践尝试，反映了不同文明体、不同发展阶段对于技术与人、效率与公平、国家利益与全球秩序迥然不同的理解与优先序。

　　当前断言哪一种治理模式更具“优越性”仍为时尚早。每一种路径都植根于其独特的土壤，也面临着各自的挑战：美国的模式能否有效应对技术失控带来的社会撕裂和安全隐患？欧盟的严格规制会否阻碍创新活力，使其在全球技术竞争中落后？中国的统筹之路如何在复杂的全球化环境中平衡自主可控与国际协调？

　　答案将取决于多重因素的交织作用：核心技术的突破方向、应用场景的实际效能、产业生态的演化轨迹，以及大国之间围绕治理规则展开的政治博弈与合作空间。

　　人工智能仍在疾驰，对治理效能的评判标准或许在于，其能否真正服务于人类的整体长远利益——即在充分利用其澎湃动力推动文明进步的同时，始终有效地保障人类的尊严、公平、安全与对自身命运的掌控权。

　　这要求全球社会在激烈的竞争之外，展现出更多的智慧和勇气，在分歧中寻求共识，在规则博弈中探索协调兼容的可能框架。人工智能治理的最终成效，既是技术规则的落地，更是人类智慧与价值观在数字时代的集中投射。如何在创新的狂奔中校准航向，这道难题，考验着每一个参与其中的行动者。走向何方，既充满挑战，也蕴含塑造未来的生机。■