玉渊谭天丨摘下中美AI合作“低垂的果实”

来源：央视

当你开车前往旧金山，一路上会看到，所有广告牌基本上都跟AI相关。

其实在湾区，你会发现，这里几乎没有人闲着。一周之内，任何人都可以参加各种和AI相关的活动——圆桌、大型会议，什么都有。

在美国的AI圈子里，有一个词来形容它：社群。要了解美国AI圈子在酝酿什么、什么在发生，关键就在他们。技术人员在讨论模型发展的方向，研究员在争论治理如何开展，投资人在判断哪个方向能跑出来……

还有不少人，在琢磨中美之间的事。

“低垂的果实”

最近，谭主和他们聊了聊，包括OpenAI前工程师、美国加利福尼亚州参议员、中美二轨对话的核心参与人等，还有不少穿梭在中美之间的第三方机构。

聊下来，谭主发现，中美之间共同关注的议题其实很多。推动这些议题的，不只是官方对官方，更是官方、半官方、民间多层交织。

今年，围绕AI治理的对话渠道十分密集——联合国层面有高级别会议和独立科学小组，G20和APEC各有自己的AI议程，二轨对话又将诸多中美技术人员和政策研究员汇聚在一起。专业层面的共识，可以通过二轨对话形成，再传入政策圈层，最终在各国的决策层获得确认。

一个具体的案例，是建立人工智能事件的沟通渠道。

与联合国关系密切的AI安全机构AI Safety Connect的两位联合创始人告诉谭主，就AI治理（包括为危险人工智能事件做准备）在中美之间建立沟通渠道这件事，他们努力了很久，看到它登上全球舞台是“积极的一步”，但只是第一步。现在，他们正在与中国同行、美国同行讨论怎么建事件报告机制——让中美两国的AI实验室隔着太平洋对话，同时与各自政府协同。

现在，有更多议题正在往成果方向转化。比如，防止最危险的能力被滥用，包括确保AI不被恐怖组织利用等。

AI社群用了一个有意思的词来形容这些议题：“低垂的果实”。

清华大学战略与安全研究中心副主任肖茜是中美二轨对话的核心人物之一，她和谭主确认，建立人工智能事件的沟通渠道和防范AI被滥用符合中国利益。多个美国AI安全机构的政策研究员也明确表示了对这两个议题的积极态度。

这些确认，让“低垂的果实”这个说法有了具体所指。所谓“低垂的果实”，不是最宏大的目标，而是那些中美双方已经有专业层面的共识、相对成熟的合作点。

随着一轨对话的建立，这些议题进一步有了顶层确认的基础。建立中美人工智能对话机制后，二轨积累的议题有了更明确的政策出口。

中方谈判相关人士告诉谭主，这次由于时间十分紧张，中美两国主要表达了各自的态度、关心的问题等，并计划在下次11月的对话中推进具体问题。

“南橘北枳”

但同样的议题，放到不同的语境里，长出来的样子未必一样。

首先是中美对安全本身的认知错位。

在湾区对接过很多欧美AI安全机构的中国研究员朱燕告诉谭主，一个基础问题是用词：比如在英语语境里，“safety”和“security”是非常不一样的概念，而中文统一称之为“安全”。看似在用同样的词，指向的内涵可能并不一样。

这一分歧也体现在对AI风险的理解上。

国内有自成体系的分类框架，比如全国网络安全标准化技术委员会区分“技术内生安全风险”“技术应用安全风险”“应用衍生安全风险”三大类。而美国，以麻省理工学院为例，则把AI风险总结为七大类，包括歧视、隐私、滥用、AI系统安全、社会经济与环境影响等。

分类方式不统一，导致了双方口中的“重大风险”不是同一回事。比如，美方关心AI是否会给人类社会带来毁灭性灾难，而中方关心AI在实际使用中产生的具体风险。

OpenAI前工程师Katarina Slama就提到，早期训练AI时，靠人给AI的回答反馈，引导AI理解人的意图；后来这套流程被替换，改成让AI给AI反馈。这么一来，要让AI的想法和人类想要的目标保持一致，就难多了。

美方也想知道中国企业、专家、老百姓是不是关注有一天AI可能失控，甚至反过来控制人类。谭主了解到，他们在二轨对话中问过很多这样的问题，但双方被解读出了不同的立场。

这种认知隔阂背后有现实原因。

谭主了解到，欧美AI安全社群是一个非常精英、比较西方中心的圈子，其他国家人员较少。即使中国大模型在世界上拥有一席之地，但这个圈子里中国人的参与严重不足，也很少谈到全球南方。但问题是，很多时候哪怕没有中方人员、中国企业在场，大家聊AI治理时，也绕不开和中国有关的议题。

这就涉及一个更根本的问题：规则由谁来制定？

如果全球AI标准由美国主导制定，全程缺少中方参与，最终形成的治理规则，很难得到广泛认可，也难以在全球落地。中美是两个领先的人工智能大国，在规则、标准制定上理应有相应的话语权。

中美推动合作的可能性，相比数月前已经更为乐观。政策窗口已经打开，双方都有意愿，关键是怎么去做。

前面已经说得很清楚：同样的议题，放到不同语境里，长出来的样子未必一样。“南橘北枳”的问题不解决，“果实”就算摘下来，也可能不是双方以为的那一颗。

所以，需要先把双方的理解校准到同一个坐标系里，再谈具体动作。

具体来看，至少存在三个现实推进方向。

第一，共同探讨AI风险分类和分级标准。

双方需要先把底层问题谈清楚：什么样的情形才算重大风险？哪些模型行为属于严重失控？这些问题看起来基础，却是后续讨论更加复杂规则的前提。如果连“重大风险”的定义都不一致，后续的协同就无从谈起。

第二，敲定AI风险事件通报范围、流程与要求。

一旦出现模型失控、逃逸事件，中美双方都需要第一时间掌握事件情况、判断风险等级。中美同意建立人工智能事件的沟通渠道，是补上这个缺口的第一步。但这套机制不能停留在口头约定上。哪些事件需要上报、多久之内完成通报、哪些信息要共享，以及不落实通报要求如何处置，都要有相应约束。

没有通报机制，就没法留存风险案例；而没有案例积累，就摸不清风险演变的规律，管控也就无从谈起。

第三，将AI治理置于更广泛的中美交流框架中。

人工智能讨论应该让中方充分参与，让更多国家的声音被听到。模型可能影响公共安全，深度伪造可能冲击社会信任，这些后果最终将由全社会共同承担。

这听起来很宏大，但不是没有抓手。谭主与美国加利福尼亚州参议员杰瑞·麦克内尼交流时，对方就提到，美国联邦层面推进合作可能较慢，但加州可以先行先试，建立互信与制度框架，再逐步向外推广。

我们不否认人工智能竞争仍会继续。但确保人工智能向善、造福全人类，是中美两国在人工智能领域最大的共同利益。

中美之间不可能一次性解决所有分歧，但可以先管住最急迫的风险，在这个基础上逐渐做实共识。