杨金柱等：AGI超级智能的法律治理展望（上篇）

原标题：杨金柱等：AGI超级智能的法律治理展望（上篇）——AGI治理的全球立法演进（2021–2026）

摘要

过去五年，全球AI治理从“伦理原则—软法共识”逐步走向“风险分级—硬法落地”，其中欧盟率先以《人工智能法案》（AI Act）建立覆盖“禁止—高风险—透明度义务—通用目的/系统性风险模型”全谱系的强制合规模型，并设定分阶段适用时间表（2025–2027年）以降低市场冲击。美国在2023年曾以行政命令推动安全与报告机制，但2025年政权更替后撤销了该命令，并转向“去障碍、促创新、联邦统一框架优先”的路线：通过新的行政命令与政府内部采购/使用备忘录，强调加速采纳、设立首席AI官（CAIO）、对“高影响AI”实行最低限度风险管理，同时对州层面严格监管采取诉讼、拨款条件与潜在联邦先占等手段。中国则以网信与数据安全体系为牵引，形成“算法推荐—深度合成—生成式AI—数据出境—安全治理框架”的组合规制，突出内容安全、数据合规与分级评估，并发布《人工智能安全治理框架》，提出内生/应用风险分类及技术和综合治理措施。面向AGI/超级智能（尚无统一定义），法律挑战将集中在责任分配、可追责主体、风险分级与安全审查、可解释性与透明度、个人信息与隐私权、跨境监管与执法协调以及伦理与人权边界等方面；国际层面则呈现“联合国与条约化（欧洲理事会公约）+G7/OECD/UNESCO软法+标准化ISO/IEC”并行，但在“创新与安全、开源与可控、主权与互操作、能力鸿沟与治理代表性”等议题上仍有较大分歧。

背景与定义

AGI（通用人工智能）并非单一法律概念，而更像“能力阈值”的技术与社会想象：其核心特征是跨任务、跨领域的泛化与学习能力。学术概念中，Legg与Hutter提出“通用智能”的形式化定义框架，强调对不同环境的适应与效用最大化，为“广泛适应性”提供了严谨刻画。[1]在治理实践中，各国更常使用“前沿AI/先进AI/通用目的AI（GPAI）/基础模型”等可操作概念来逼近AGI问题域：例如《布莱奇利宣言》以“frontier AI safety（前沿AI安全）”作为国际合作抓手。[2]欧盟AI Act则采用“通用目的AI模型（general-purpose AI models）”以及“系统性风险（systemic risk）”来识别“能力与影响外溢”的模型，并明确适用范围具有域外效力（与提供者所在地无关）。[3]

“超级智能（superintelligence）”通常被理解为在几乎所有重要领域显著超越人类的智能体。Bostrom将其界定为“在几乎所有感兴趣领域大幅超过人类认知表现的任何智力”，并强调其对安全与控制提出根本挑战。[4]从法治视角看，“超级智能”带来的关键不在于是否具备“人格”，而在于其能力可能使既有“合规—审计—执法”的制度设计失灵（例如不可解释性、难以预测的工具使用、跨系统联动产生外部性等）。中国《人工智能安全治理框架》也将“可解释性差、偏见歧视、幻觉输出、对抗攻击、数据投毒”等作为风险来源，体现了监管关注点已向“模型内生风险＋应用域风险”扩展。[5]

“AI治理（AI governance）”可概括为：政府、企业与社会通过法律、标准、组织流程与技术措施，在AI全生命周期内实现可控、可用、可问责与可持续的制度安排。OECD《人工智能理事会建议》作为首个政府间AI标准（2019年通过，2024年更新），强调可信AI、民主价值与人权导向，为跨法域互操作提供了原则底座。[6]UNESCO《人工智能伦理建议书》（2021年通过）则以全球范围适用的伦理与政策框架，强调人权、人类尊严与监督机制。[7]

一、美国、欧盟与中国近期立法与政策梳理

以下梳理聚焦“法律/白皮书/监管文件”的可检索原文与其对企业/机构合规的直接影响（统计口径为2021–2026年初的关键节点）。

（一）美国

美国联邦层面长期呈现“软法+部门监管+州法拼图”的结构。2023年曾通过行政命令强化安全与报告，但2025年后路线显著转向“去监管障碍、强化联邦统一框架、抑制州法碎片化”。[8]

表格注释

1. 本表开篇关于美国联邦监管结构的整体表述，引自参考文献[8]。

2. 本表中Executive Order 14148相关核心要点、适用范围内容，引自参考文献[9]；主要合规要求/影响内容，引自参考文献[10]。

3. 本表中Executive Order 14179相关全部内容，引自参考文献[10]；主要合规要求/影响内容，另参考文献[11]。

4. 本表中《America’s AI Action Plan》相关全部内容，引自参考文献[11]；主要合规要求/影响内容，另参考文献[11]。

5. 本表中OMB Memorandum M-25-21相关全部内容，引自参考文献[12]；适用范围补充说明，引自参考文献[12]；主要合规要求/影响内容，引自参考文献[12]。

6. 本表中OMB Memorandum M-25-22相关全部内容，引自参考文献[13]。

7. 本表中《Ensuring a National Policy Framework for AI》行政命令相关全部内容，引自参考文献[14]；主要合规要求/影响内容，另参考文献[14]。

8. 本表中NIST《AI Risk Management Framework （AI RMF 1.0）》相关核心要点、适用范围内容，引自参考文献[15]；主要合规要求/影响内容，引自参考文献[16]。

9. 本表中Colorado SB24-205相关核心要点内容，引自参考文献[17]；主要合规要求/影响内容，引自参考文献[18]。

10. 本表中《Blueprint for an AI Bill of Rights》相关全部内容，引自参考文献[19]；主要合规要求/影响内容，另参考文献[19]。

（二）欧盟

欧盟建立了目前最系统的AI硬法框架：AI Act以“风险分级+市场准入/合格评定+治理与处罚”构成主轴，并与数据保护、产品安全与责任制度互相耦合。[3]

表格注释

1. 本表开篇关于欧盟AI硬法框架的整体表述，引自参考文献[3]。

2. 本表中《Artificial Intelligence Act》（AI Act）相关全部内容，引自参考文献[3]；适用范围补充说明引自参考文献[3]。

3. 本表中“GPAI系统性风险制度设计”相关全部内容，引自参考文献[3]。

4. 本表中设立European AI Office相关全部内容，引自参考文献[20]。

5. 本表中《General-Purpose AI Code of Practice》相关全部内容，引自参考文献[21]。

6. 本表中新版《Product Liability Directive》相关全部内容，引自参考文献[22]。

7. 本表中撤回AI Liability Directive提案相关全部内容，引自参考文献[23]。

（三）中国

中国的AI治理呈现“以网信监管与数据安全为枢纽、以算法与生成内容为重点、以分类分级监管为原则、以安全评估与备案为抓手”的路径，并在2024年发布安全治理框架对风险类型与措施作系统化整理。[5]

表格注释

1. 本表开篇关于中国AI治理路径的整体表述，引自参考文献[5]。

2. 本表中《互联网信息服务算法推荐管理规定》相关全部内容，引自参考文献[24]。

3. 本表中《互联网信息服务深度合成管理规定》相关全部内容，引自参考文献[25]。

4. 本表中《生成式人工智能服务管理暂行办法》相关全部内容，引自参考文献[26]。

5. 本表中《人工智能安全治理框架1.0》相关全部内容，引自参考文献[5]。

6. 本表中《中华人民共和国个人信息保护法》（PIPL）相关全部内容，引自参考文献[27]。

7. 本表中《数据出境安全评估办法》相关全部内容，引自参考文献[28]。

8. 本表中《个人信息出境标准合同办法》相关全部内容，引自参考文献[29]。

9. 本表中《促进和规范数据跨境流动规定》相关全部内容，引自参考文献[30]。

10. 本表中《全球人工智能治理倡议》相关全部内容，引自参考文献[31]。

（四）近五年主要节点时间线：2021–2026年美欧中AI治理关键节点（选摘）

2021-04 : 欧盟提出AI Act立法方案（后于2024成法）

2021-09 : 中国《数据安全法》施行

2021-11 : 中国《个人信息保护法》施行

2022-03 : 中国《算法推荐管理规定》施行

2022-10 : 美国OSTP发布《AI权利法案蓝图》（非强制）

2022-09 : 中国《数据出境安全评估办法》施行

2023-01 : 中国《深度合成管理规定》施行

2023-01 : NIST发布AI RMF 1.0

2023-08 : 中国《生成式AI暂行办法》施行

2023-11 : 《布莱奇利宣言》聚焦“前沿AI安全”

2024-03 : 联合国大会通过首个人工智能决议（A/RES/78/265）

2024-08 : 欧盟AI Act生效（刊登后第20天）

2024-09 : 中国发布《人工智能安全治理框架1.0》

2025-01 : 美国撤销EO 14110并发布EO 14179（去障碍/促领先）

2025-02 : 欧盟AI Act第I–II章（含禁止实践）开始适用

2025-07 : 欧盟发布GPAI自愿行为准则；美国发布《America’s AI Action Plan》

2025-12 : 美国推动“联邦统一框架”并设置挑战州法机制

2026-02 : 科罗拉多州SB24-205生效（州层广义AI规制代表）

●参考文献/注释：

[1] https://arxiv.org/abs/0712.3329

[2]https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration

[3]https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ%3AL_202401689

[4]https://ia800501.us.archive.org/5/items/superintelligence-paths-dangers-strategies-by-nick-bostrom/superintelligence-paths-dangers-strategies-by-nick-bostrom.pdf

[5]https://www.cac.gov.cn/rootimages/uploadimg/1727568303900999/1727568303900999.pdf

[6]https://oecd.ai/assets/files/OECD-LEGAL-0449-en.pdf

[7]https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence

[8]https://www.whitehouse.gov/presidential-actions/2025/01/initial-rescissions-of-harmful-executive-orders-and-actions/

[9]https://www.whitehouse.gov/presidential-actions/2025/01/initial-rescissions-of-harmful-executive-orders-and-actions/

[10]https://www.whitehouse.gov/presidential-actions/2025/01/removing-barriers-to-american-leadership-in-artificial-intelligence/

[11]https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf

[12]https://www.whitehouse.gov/wp-content/uploads/2025/02/M-25-21-Accelerating-Federal-Use-of-AI-through-Innovation-Governance-and-Public-Trust.pdf

[13]https://www.whitehouse.gov/wp-content/uploads/2025/02/M-25-22-Driving-Efficient-Acquisition-of-Artificial-Intelligence-in-Government.pdf

[14]https://www.whitehouse.gov/presidential-actions/2025/12/eliminating-state-law-obstruction-of-national-artificial-intelligence-policy/

[15]https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10

[16]https://www.nist.gov/itl/ai-risk-management-framework

[17]https://www.foley.com/insights/publications/2024/05/colorado-passes-new-ai-law-protect-consumer-interactions/

[18]https://natlawreview.com/article/colorados-historic-sb-24-205-concerning-consumer-protections-interactions-ai-signed

[19]https://bidenwhitehouse.archives.gov/wp-content/uploads/2022/10/Blueprint-for-an-AI-Bill-of-Rights.pdf

[20]https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX%3A32024D01459

[21]https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

[22]https://eur-lex.europa.eu/eli/dir/2024/2853/oj/eng

[23]https://commission.europa.eu/document/download/7617998c-86e6-4a74-b33c-249e8a7938cd_en?filename=COM_2025_45_1_annexes_EN.pdf

[24]https://www.gov.cn/zhengce/2022-11/26/content_5728941.htm

[25]https://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm

[26]https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm

[27]https://www.npc.gov.cn/npc/c2/c30834/202108/t20210820_313088.html

[28]https://www.gov.cn/zhengce/zhengceku/2022-07/08/content_5699851.htm

[29]https://www.cac.gov.cn/2023-02/24/c_1678884830036813.htm

[30]https://www.gov.cn/gongbao/2024/issue_11366/202405/content_6954192.html

[31]https://www.fmprc.gov.cn/web/ziliao_674904/1179_674909/202310/t20231020_11164831.shtml

特别声明：

大成律师事务所严格遵守对客户的信息保护义务，本篇所涉客户项目内容均取自公开信息或取得客户同意。全文内容、观点仅供参考，不代表大成律师事务所任何立场，亦不应当被视为出具任何形式的法律意见或建议。如需转载或引用该文章的任何内容，请私信沟通授权事宜，并于转载时在文章开头处注明来源。未经授权，不得转载或使用该等文章中的任何内容。

本文作者