构建人工智能系统性治理与伦理框架

文/北京市社科院副院长范文仲

当地时间8月4日，美国白宫向该国主要人工智能（AI）企业披露一份旨在测试尖端模型能力的框架，将美国开放权重模型列在审查范围外。外界认为，这标志着特朗普政府对人工智能行业采取的相对放任的态度发生了转变。

面对人工智能带来的多重风险与挑战，国际社会和中国都在积极探索相应的治理框架与伦理规范。要真正实现人工智能的全球治理目标，需在风险认知、制度设计、标准建设和实施路径等方面进行系统性建构。构建系统化的人工智能治理体系，需要法规制度建设、行业技术标准和企业业务规范的协同推进，也需要政府、企业、社会和国际社会的多方参与。

近日，全球人工智能（AI）治理对话在瑞士日内瓦举行。联合国秘书长古特雷斯在开幕式上呼吁：“我们现在必须将全球参与转化为全球行动，使人工智能更安全、更公平、更易获取、更符合伦理。”这场对话的举行标志着人工智能治理从分散的、碎片化的倡议走向全球性、制度化的协作。然而，要真正实现人工智能的全球治理目标，仍需在风险认知、制度设计、标准建设和实施路径等方面进行系统性建构。

人类社会面临的多维度风险挑战

古特雷斯将人工智能带来的风险概括为三个层面：速度、权力与真相。这一判断揭示了人工智能风险的多维性。在人类命运层面，随着技术演进，超级智能的失控风险已从科幻设想转变为必须严肃对待的现实问题。如果人工智能的底层目标函数与人类的生存和福祉不一致，或者在自我迭代进化中出现了人类无法理解的涌现能力与目标偏移，将对人类作为地球主导物种的主体性地位构成根本性威胁。若缺乏全球性的约束规则，人工智能在生物科研和军事领域的应用可能带来巨大的伦理风险，直接威胁全人类的生存安全。此外，人类正将越来越多的认知劳动和决策权让渡给AI算法，当人工智能主导了信息分发、知识生产乃至价值判断，人类文明的多样性与演进的自主性将面临被异化的危机。

在社会公平层面，人工智能模型的训练高度依赖海量数据，而历史数据中往往潜藏着关于种族、性别、地域、阶层等维度的结构性偏见。如果不加以人工干预和伦理对齐，算法不仅会复现这些偏见，甚至会通过自动化决策将其放大并固化，剥夺特定群体的公平发展机会。同时，大量传统劳动者的技艺面临被替代的风险，而少数掌握技术资本的群体则获得了空前的收益，形成贫富分化的“马太效应”。算力、数据与大模型高度集中于少数科技巨头和发达国家手中，“算力霸权”使得发展中国家在人工智能浪潮中面临被边缘化的风险，全球南北鸿沟可能进一步加剧。

在生活安全层面，人工智能模型在训练和推理过程中不可避免地涉及大量个人敏感信息，若缺乏严格的技术隔离与权限控制，极易导致个人隐私数据的违规越界使用甚至泄露。当人工智能技术被嵌入自动驾驶汽车、医疗诊断系统、工业控制网络等关乎生命财产安全的物理场景时，系统一旦出现误判或遭遇黑客攻击，将直接导致不可逆的物理伤害。此外，人工智能的内容合成技术极大降低了虚假信息的制作成本，若被恶意利用，不仅会侵害特定个体的名誉权与财产权，更可能在宏观层面上操纵公共舆论，侵蚀社会信任的基石。

安全治理原则与伦理规范的国际比较

面对人工智能带来的多重风险与挑战，国际社会和中国都在积极探索相应的治理框架与伦理规范。两者在价值取向、制度设计和实施路径上既有共通之处，也存在显著差异。

在国际通用原则方面，2021年11月，联合国教科文组织通过的《人工智能伦理建议书》是全球首个该领域的全球性标准框架，确立了相称性、安全与安保、公平与非歧视、隐私权等十大原则，强调人工智能必须以促进人的尊严和福祉为核心。在区域立法层面，欧盟于2024年正式通过《人工智能法案》，确立了基于风险的分层分类监管模式，将人工智能系统分为不可接受风险、高风险、有限风险和最低风险四类。对于社会评分、潜意识操纵等不可接受风险实行严格禁止；对生物识别、关键基础设施等高风险系统施加严苛的合规义务。美国则更倾向于“创新导向”与“分散治理”，通过美国国家标准与技术研究院（NIST）发布的《人工智能风险管理框架》提供自愿性指南，并以总统行政令形式要求开发大型模型的企业向政府报告安全测试结果，强调在维护国家安全和科技领导力前提下的安全治理。

相较之下，中国特色的人工智能治理原则在吸收国际共识的基础上，展现出鲜明的发展导向与系统观念。2021年，中国国家新一代人工智能治理专业委员会发布的《新一代人工智能伦理规范》提出了六项基本要求：增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养。2023年中国提出的《全球人工智能治理倡议》进一步凝练了“以人为本、智能向善、相互尊重、平等发展”的核心理念。

中国特色原则与国际通用原则在“以人为本”“公平无歧视”“安全可控”等基础伦理底线上高度契合，但二者在侧重点上存在显著差异。在价值取向上，国际原则强调个体权利的绝对保护，而中国更强调“统筹发展与安全”，主张在发展中规范、在规范中发展，反对因噎废食地过度监管扼杀创新活力。在治理路径上，西方常将人工智能伦理与人权法律框架深度绑定，侧重司法诉讼与事后追责；中国则更注重政府统筹协调与社会共治，强调在技术研发的初始阶段就植入伦理标准。在国际合作上，中国反对技术壁垒与单边制裁，呼吁提升发展中国家在规则制定中的代表性和发言权，是对西方主导的治理话语体系的重要补充与超越。

人工智能治理和伦理规范的体系框架

构建系统化的人工智能发展治理体系，需要从法规制度建设、行业技术标准和企业业务规范三个维度协同推进，形成覆盖技术全生命周期的治理闭环。

当前中国已经形成了较为完备的法律框架。上位法层面，《民法典》《个人信息保护法》《网络安全法》《数据安全法》确立了人工智能领域的基本法律规则，明确了个人信息权益、数据安全责任等核心问题；专门法层面，《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》等部门规章针对人工智能的特定应用场景作出了专门规范。下一步的立法重点是加快出台《人工智能法》作为领域基本法，明确不同风险等级人工智能产品的监管规则，厘清研发者、运营者、使用者的法律责任，尤其是针对通用人工智能、自主智能系统等前沿技术，建立“风险等级动态评估”制度，对高风险领域实行严格的准入许可，对低风险应用实行包容审慎监管，同时建立惩罚性赔偿制度，大幅提高违法成本，从根本上遏制违法违规行为……

来源 | 《清华金融评论》2026年8月刊总第153期

编辑 | 丁开艳

审核丨秦婷

责编 | 兰银帆

Review of Past Articles -

01

02