在慕安会感受欧美AI治理的协调与分歧

作者：肖茜（Xiao Qian）

清华大学战略与安全研究中心副主任

一年一度的慕尼黑安全会议（慕安会）是欧洲最主要的安全论坛之一，也是跨大西洋国家进行国际安全形势对表和安全和防务政策对齐的重要平台。会议议题的设置往往最能代表跨大西洋国家特别是欧洲精英阶层的安全关切。

2023年，大语言模型的蓬勃发展和ChatGPT的横空出世，使国际社会对人工智能（AI）发展可能对安全带来的挑战深感焦虑。刚刚结束的第60届慕安会对AI问题高度重视，主论坛中有3场讨论直接与新技术相关，还有20多场与AI有关的边会和餐会，占论坛活动总量的五分之一以上，成为继俄乌冲突、巴以冲突、供应链安全等议题之后最受关注的议题之一。

在全球地缘政治紧张和经济不确定性增加的背景下，本届慕安会明显呈现出议题高度安全化的趋势，从供应链安全到粮食安全，从气候变化到难民危机，甚至关于教育、文化、科研的讨论也往往被安全顾虑所吞噬。新兴技术作为全球繁荣的重要驱动力，在此次会议中更是成为过度安全化的牺牲品。

▲ Sora创建的视频

各方高度担心AI技术的滥用带来的风险。虚假信息对民主体制可能带来的挑战成为本次会议最大关切。在慕安会开幕当天，OpenAI发布新型大模型Sora，可通过快速文本提示创建出60秒视频，引发参会各方热议。在感慨技术快速发展的同时，专家讨论集中在图像和视频生成模型加剧虚假信息问题。不少专家指出，2024年是大选年，40多个国家和地区的40多亿人口将参加投票，如AI新技术生成的虚假信息被用于政治目的扰乱选举，将动摇西方民主体制的基石。

同样在慕安会开幕当天，20家AI相关行业公司在会议上签署自愿协议，承诺打击这一新技术生成欺骗性信息扰乱全球选举。OpenAI、Anthropic、谷歌、微软、亚马逊以及TikTok、X、Facebook等社交平台联合做出具体承诺，包括合作开发相关开源工具，减少涉及选举的欺骗性AI生成内容；设法检测此类内容的在线传播情况；推动教育活动，提高公众防范意识和媒体素养等，培养跨行业抵御此类内容的能力等。但协议的公布似乎未能为相关讨论注入信心，相反与会者质疑协议承诺不够明确，且缺乏强制约束力。甚至还有欧洲与会者会上公开质疑大型AI企业的职业操守： “我们真的能够相信这些非民选但拥有巨大技术权力的AI企业吗？”

二是美欧在AI治理上努力对齐，但在很多问题上仍存在分歧。过去几年，美欧通过成立美欧贸易与技术委员会以及签署经合组织数字服务税协定等在数字技术领域加大协调。但与此同时，美欧在AI监管模式上仍存在较大差异，从这次会议讨论中，“美国模式”与“欧洲模式”的不同被反复提及，欧盟担心不受监管的数字技术将使欧洲公民面临数据安全侵犯和有害内容，而美国则担心可能的监管会对其科技行业造成影响。如何在跨大西洋两岸寻求互惠互利的解决方案也是慕安会大量闭门讨论和走廊对话中提到最多的内容之一。

▲ 2024年 慕安会期间主题为“对齐跨大西洋技术治理”（Aligning Transatlantic Tech Governance）的小组讨论会，主持人是美国国土安全部部长马约卡斯（右一）。

在AI和新兴技术领域，美国代表在慕安会上通过强调技术安全化的必要性极力拉拢欧洲，将制度竞争与技术竞争混为一谈，强调美欧必须团结起来应对中国的竞争与挑战。但能感觉出，美欧在这一问题上看法不尽相同。在题为“对齐跨大西洋技术治理”的讨论中，围绕笔者提出的“如何看待中国在全球AI治理中的作用，是否愿意与中国在这一领域加强合作”的问题，欧盟委员会执行副主席玛格丽特.维斯塔格（Margarethe Vestager）表示，虽然欧盟在一些问题上与中国有分歧，但双方仍应在这一领域展开对话合作，而美方嘉宾帕兰提尔技术公司创始人和首席执行官亚历克斯.卡普（Alex Karp）则认为，不应与中国有任何形式的合作，也不应向中国转移任何技术。而围绕是否应该向中国转移技术，美欧嘉宾在台上开始激烈争论，总部在荷兰的恩智浦半导体公司主席和首席执行官柯特.西弗斯（Kurt Siever）认为，还是要将民用技术与军用技术区分开来。在民用技术上与中方加强合作，因为中国有着巨大的市场，而且中国也有不少先进的技术企业。美亚历克斯.卡普则强调，让为技术可以完全区分军用和民用的想法太过天真，应当严格限制与中方的一切合作，确保安全。这一幕似曾相识，让我不由回忆起在2021年的慕安会上，时任美国众议院院长佩洛西极力劝说欧洲人为了维护欧洲的价值和安全不要选用华为5G。几年过去了，美国虽然成功说服欧洲人不用中国的5G设备，但似乎并没有给欧洲人提供更好的技术方案。

三是从地缘政治竞争的角度聚焦人工智能技术风险的应对。会议前发表的慕安会报告往往有引导会议讨论方向，为会议定调的重要功能。今年报告在技术章节中专门指出，AI技术将成为未来几十年决定地缘政治力量的关键因素，在整个科技领域，全球合作已让位于地缘政治竞争。报告认为，中国和美国正在争夺AI领域的主导权，强调随着各国越来越多地利用技术来赢得其对地缘政治对手的主导权，技术武器化的新趋势对国际安全已经产生影响。

慕安会关于AI和新兴技术的大量讨论是闭门的，仅限受邀嘉宾，且基本没有邀请中方代表参加。从笔者旁听的几场讨论以及在不同场合与美欧专家的交流来看，讨论还是在用地缘政治竞争逻辑主导关于技术议题的讨论，试图通过政治手段来应对技术风险，例如用“民主专制之争”来定义技术竞争，将全球技术版图划分为“敌我阵营”，用赢得竞争对手来获得“小团体”的相对安全。在这一逻辑主导下，会议自然未能提出全球合作应对技术风险的积极建议，也未能就推进对技术风险的全球监管给出任何行之有效的方案。

笔者还观察到，慕安会关于AI和新兴技术讨论都会邀请一位全球南方国家的代表参加，试图用西方价值观来影响全球南方国家与会代表。这些代表们在讨论中往往小心应对，拒绝在数字“专制与民主之争”中明确表态，并强调优先考虑国家和地区发展，而非基于价值观的考量。例如肯尼亚前任外长蕾切尔.奥马莫（Raychelle Omamo）表示，南方国家更关注的是发展，以及谁能更好地在基础设施建设、人员培训和公共健康等领域支持和帮助自己国家，而不会关心是不是给某个国家贴上标签。明显感觉得出，全球南部的许多国家仍将数字发展置于地缘政治协调之上。

▲ 报道2024年慕安会的媒体记者

另外，值得关注的是，有着防务传统的慕安会今年有不少分论坛聚焦AI在军事领域的应用，例如演示AI技术在俄乌冲突中的应用，以及通过AI技术提高情报检测效率和准确性的方法等。围绕慕安会报告中提到的人工智能武器系统的人为监督有限或根本没有、以及对此类系统可能犯下的战争罪行的问责相关问题，会议尚还没有展开有效的讨论。

虽然慕安会报告一针见血地指出，技术领域地缘政治竞争逻辑的局限性显而易见，在人工智能监管方面开展国际合作在道义上是必要的；世界各国必须与地缘政治竞争对手寻找仍有可能开展正和科技合作的领域。但遗憾的是，作为跨大西洋及其“志同道合”国家之间沟通交流的重要平台，慕安会未能跳出“集团思维”和“联盟思维”的束缚，将小集团的安全置于人类的共同安全之上，将技术问题政治化和武器化，划分敌我，甚至不惜分裂世界，破坏全球产业链和供应链的稳定，让这个世界变得更加不安全。

正如美国欧亚集团主席布雷默（Ian Bremmer）在主持题为“受争议的对抗：地缘政治和AI竞争”主论坛中提到技术带来的不确定性时指出，“技术是自由流动的，科学研究需要共享和开源”。确实，知识没有边界，试图用建墙、对抗、制裁方式来阻止技术的交流与合作只会增加隔阂和误判，给世界带来更多不稳定的因素，也无法解决新兴技术给全球带来的风险和挑战。随着AI技术的快速迭代和持续发展，世界各国不仅要在如何发展技术和如何监管技术中取得艰难平衡，同时也需要在不可避免的竞争和不可或缺的合作中找到平衡点。而在应对这些问题上，对话永远要优于对抗，合作必将超越竞争。

中美聚焦网｜中美交流基金会