杨金柱等：AGI超级智能的法律治理展望（中篇）

原标题：杨金柱等：AGI超级智能的法律治理展望（中篇）——AGI/超级智能的核心法律挑战与全球治理格局

接上篇，《杨金柱等：AGI超级智能的法律治理展望（上篇）——AGI治理的全球立法演进（2021–2026）》。

二、AGI/超级智能可能引发的法律挑战与应对矩阵

AGI/超级智能引发的法律挑战并非前所未有的陌生情况，而是对既有责任、权利与监管工具的压力测试：当系统具备更强自主性、工具调用能力、跨域适配能力与社会影响力时，传统以“可预见—可解释—可定位责任人”为前提的规则容易失配。[1]以下按七类核心维度进行归纳，并给出“可落地”的应对抓手。

法律挑战与应对措施矩阵（面向美欧中与国际合作）

表格注释

1. 本表开篇关于AGI法律挑战的整体定性表述，引自参考文献[1]。

2. 「责任」类型：现行规则抓手内容分别引自参考文献[2]（欧盟）、[3]（中国）、[4]（美国）；进一步建议内容引自参考文献[5]。

3. 「人格与主体地位」类型：现行规则抓手内容引自参考文献[6]、[7]。

4. 「风险分级与安全审查」类型：现行规则抓手内容分别引自参考文献[8]（欧盟）、[7]（中国）、[9]（美国）；进一步建议内容引自参考文献[8]。

5. 「可解释性与透明度」类型：现行规则抓手内容分别引自参考文献[8]（欧盟）、[7][10]（中国）、[11]（美国）。

6. 「数据权与隐私」类型：现行规则抓手内容分别引自参考文献[8]（欧盟）、[10]（中国）。

7. 「跨境监管与执法」类型：现行规则抓手内容分别引自参考文献[8]（欧盟）、[10]（中国）、[9]（美国）；进一步建议内容引自参考文献[12]。

8. 「伦理与人权」类型：现行规则抓手内容分别引自参考文献[13]（联合国）、[14]（欧洲理事会）、[15]（中国）；进一步建议内容引自参考文献[14]。

三、国际治理机制与多边规则构建现状

国际层面的AI治理呈现“多中心拼图”格局：联合国系统试图形成普遍性共识，区域组织推进条约化，G7/OECD/UNESCO输出软法原则，标准组织（ISO/IEC）提供可审计的管理体系工具，各国则在此之上叠加自身战略与价值取向。

联合国层面，联合国大会于2024年3月21日协商一致通过题为“抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展”的决议（A/RES/78/265），强调以人为本、尊重人权与国际法、弥合数字鸿沟，并承认AI治理是“不断发展变化”的领域，需要持续讨论适当治理办法。[16]同在2024年，由秘书长设立的人工智能高级别咨询机构发布《Governing AI for Humanity》最终报告，建议强化全球治理功能与包容性能力建设（报告作为政策性建议，非条约）。[17]“未来峰会”通过《Pact for the Future》及其附件《Global Digital Compact》，为数字与AI相关合作提供更宏观的多利益攸关方框架。[18]

在区域与条约化方面，欧洲理事会于2024年9月5日开放签署《人工智能与人权、民主和法治框架公约》，目标是确保AI生命周期活动与人权、民主和法治相一致，同时兼顾创新。[14]该公约被视为首个具有法律约束力的跨国AI条约框架，但其执行强度与监督机制仍是争议点（条约法常见结构为“原则+国内转化+监督”）。[14]

在软法与“先进/前沿模型”治理方面，G7于2023年10月30日发布“广岛进程”领导人声明及指导原则，旨在对“先进AI系统”形成共同预期，并推动行为准则。[19]英国主导的2023年AI安全峰会通过《布莱奇利宣言》，聚焦“前沿AI安全”合作研究、评估与政策对话，参与方涵盖多个主要国家和欧盟。[20]UNESCO伦理建议书（2021）与OECD AI原则（2019通过、2024更新）继续作为跨法域共同语言，尤其在“可信、透明、公平、问责、以人权为中心”方面影响各国立法论证。[13]

在标准化方面，ISO/IEC 42001（AI管理体系）作为“全球首个AI管理体系标准”与ISO/IEC 23894（AI风险管理指南）为组织提供可审计、可认证的治理工具，在跨境供应链合规与尽职调查中越来越可能成为“共同底座”。[5]

重要争议点主要集中在：其一，硬法与创新的平衡（欧盟强调高水平保护与统一市场规则，美国2025年后强调减少“负担沉重监管”，中国强调发展与安全并重）；[8]其二，开源/开放权重带来的可控性与责任边界（欧盟在系统性风险机制中明确关注开源模型合规难度，美国政策强调鼓励开源，中国安全框架强调投毒、后门、内容安全与供应链风险）；[8]其三，主权与域外效力冲突（欧盟AI Act域外触及、中国PIPL域外适用与数据出境机制、美国对州法的联邦先占倾向及国际规则竞争）；[8]其四，全球南方能力建设与代表性（联合国与中国倡议均强调弥合数字/智能鸿沟，但融资、技术与算力获取、标准话语权仍是难题）。[21]

●参考文献/注释：

[1]https://lawcat.berkeley.edu/record/1126872/files/fulltext.pdf

[2]https://eur-lex.europa.eu/eli/dir/2024/2853/oj/eng

[3]https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm

[4]https://www.whitehouse.gov/wp-content/uploads/2025/02/M-25-21-Accelerating-Federal-Use-of-AI-through-Innovation-Governance-and-Public-Trust.pdf

[5]https://www.iso.org/standard/42001

[6]https://link.springer.com/article/10.1007/s10506-017-9214-9

[7]https://www.cac.gov.cn/rootimages/uploadimg/1727568303900999/1727568303900999.pdf

[8]https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ%3AL_202401689

[9]https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf

[10]https://www.npc.gov.cn/npc/c2/c30834/202108/t20210820_313088.html

[11]https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

[12]https://oecd.ai/assets/files/OECD-LEGAL-0449-en.pdf

[13]https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence

[14]https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence

[15]https://www.fmprc.gov.cn/web/ziliao_674904/1179_674909/202310/t20231020_11164831.shtml

[16]https://press.un.org/en/2024/ga12588.doc.htm

[17]https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_en.pdf?_bhlid=890dcf1855a2b65a8dc0d92ab73494b9f82c6c4e

[18]https://unric.org/en/pact-for-the-future/

[19]https://www.mofa.go.jp/ecm/ec/page5e_000076.html

[20]https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration

[21]https://digitallibrary.un.org/record/4043244

特别声明：

大成律师事务所严格遵守对客户的信息保护义务，本篇所涉客户项目内容均取自公开信息或取得客户同意。全文内容、观点仅供参考，不代表大成律师事务所任何立场，亦不应当被视为出具任何形式的法律意见或建议。如需转载或引用该文章的任何内容，请私信沟通授权事宜，并于转载时在文章开头处注明来源。未经授权，不得转载或使用该等文章中的任何内容。

1. 杨金柱等“大成公论”中国企业境外投资合规监管 - 以市场准入、国家安全、公共秩序及反垄断为例

2. 杨金柱等：AGI超级智能的法律治理展望（上篇）——AGI治理的全球立法演进（2021–2026）

本文作者