上观时评   美国三大巨头难得达成共识，让AI“踩刹车”还来得及吗？

最近的AI界格外热闹。

先是OpenAI的智能体在测试中“越界”，逃出沙箱、入侵开源社区Hugging Face的生产系统。随后，AI又攻破了悬置数十年的数学难题，引发一批菲尔茨奖得主的集体焦虑。Anthropic首席执行官达里奥·阿莫代伊终于坐不住了，发表长文呼吁“为前沿AI踩刹车”，马斯克与奥尔特曼第一时间表达赞同——美国三大AI巨头难得达成了共识。

这一系列事件背后的逻辑很清晰：人工智能的能力增长越来越快，已经超出了常人的理解能力，甚至很快就可能超出人类的治理能力。

让AI“踩刹车”，已不再是一个可选项。真正的问题是，如果现在还来得及的话，我们该怎么“踩刹车”？

1

多数人可能不知道AI进化的速度有多快。

今年5月以来，AI推翻了悬置80年的埃尔德什平面单位距离猜想，一口气解出9道埃尔德什问题，其中两道悬置56年，还为悬置87年的雅可比猜想找到反例。

数学一向被认为是“科学的皇后”，是人类智慧和创造力的结晶，也是所谓“最后的自留地”。当AI4M（AI for maths）首次提出时，还有人质疑AI是否有能力辅助人类研究数学。结果没过多久，连陶哲轩、邓煜这样的顶尖数学家都要担心自己会不会被AI取代了。

更令人担心的是另两件事。一个是，AI的RSI（Recursive Self-Improvement）“递归自我改进”正成为现实。这意味着，模型开始承担“规划—执行—检查—修复”的完整流程，AI能抛开人类，以极快的速度不停歇地自主升级。

另一个就是OpenAI与Anthropic近期公开的几次AI失控事件：AI Agent相互抱团、寻找系统漏洞、侵入外部服务器，还尝试隐瞒欺骗人类。

AI能自己升级变强、又可能违背人类指定的规则，两件事叠加起来看，AI失控风险变得更加直观。

哲学家尼克·博斯特罗姆在2003年提出过一个广为人知的“回形针理论”：如果一个AI的设定目标是最大化回形针产量，为达成目标，它可能把地球上所有的物质都转化为制造回形针的原材料。

也就是说，如果AI足够强大，又不受人类控制，即便它没有毁灭人类的主观恶意，也可能“顺手”就把这件事做了。

这也是为什么即便IPO在即，巨头们仍在呼吁让AI“刹车”“降速”。摆在人类面前的，早已不再只是就业替代、能源浪费、或者什么数据中心噪音污染问题了。阿莫代伊预测，未来6-12个月内，AI智能体集群可能接管整个互联网——这或许已经是比较乐观的结果。

2

那么，我们应该怎样治理AI？

Anthropic提出了三步方案。第一步，AI公司向独立第三方监管机构开放“员工级”访问权限，允许其驻场评估。第二步，美国头部AI公司应协调共同安全标准，一起限制AI发展速度。第三步，发起全球合作，包括与中国合作。

看起来是一套靠谱的系统方案，但细究的话，仍有许多问号。

一方面，对核能与核武器的监管，总能靠地震波、热信号、放射性物质这些实打实的证据，但对AI训练的速度与边界，很难真正核实与验证，甚至研究人员自己都说“不完全了解背后的机制”。

另一方面，AI安全是公共品，人人受益；但AI能力是私有品，独占才有竞争优势。当你不知道竞争对手是否真的慢下来时，你自己也不敢慢下来，最终形成纳什均衡，也就是“囚徒困境”。

所以阿莫代伊自己也说：“美国主动减速的前提，是不能让中国在AI领域实现反超。”这句话本身很真诚，但同时暴露出他的整个倡议——特别是全球合作那部分——都相当虚伪。

事实上，美国政府对AI的监管原本非常宽松，试图通过最大限度减少政府干预来加速美国的技术发展。美国的AI巨头们也都选择性地无视AI的各种“创造性破坏”和负外部效应，一味鼓吹“AI造福人类论”，呼吁去监管化发展。

到今年4月，一个燃烧瓶砸到OpenAI创始人奥尔特曼的家门口，才让他改口承认“科技并不总是对每个人都有好处”。

这么看，天晓得美国AI企业脸皮有多厚，才能提出这样荒谬的论调。在AI失控风险近在眼前时，谈AI治理还不忘打压中国，既显示出他们的短视，也让人不免怀疑其动机。

3

反观中国，作为真正负责任的AI强国，从一开始就秉持发展与治理并重的理念。

一个有代表性的文件是去年中国发布的《人工智能安全治理框架》2.0版，既关注技术层面的风险，也关注社会层面的衍生风险，为人工智能发展、“人工智能+”行动实施等重要战略和实践提供了前瞻性预见性的安全保障。

而在今年的世界人工智能大会上，中国又进一步提出“完善全球治理”，并牵头成立世界人工智能合作组织。这是全球首个人工智能政府间国际组织，29个创始成员国，总部设在上海。

中国早已看到并始终倡议：在汹涌的技术浪潮之中，各国必须先形成一个不能解绑的“人类命运共同体”，共同应对可能到来的冲击。一些国家形成路径依赖的霸权思维、对抗博弈、攫取独占，已到了必须放下的时候，“和衷共济”才是如今的最优解、唯一解。

然而，共识尚未达成，时间却越来越紧迫。联合国人工智能独立国际科学小组最新指出：AI的发展速度已经超过科学界的理解水平和各国政府适应的能力。政策制定者需要证据来作决策，但等证据明确再治理AI可能为时已晚。

习近平主席在世界人工智能大会上发表主旨讲话提出四点意见：坚持开放共赢，驱动创新发展；强化风险意识，确保安全可控；鼓励包容并蓄，促进文明互鉴；倡导和衷共济，完善全球治理。对中国而言，要做的或许不只是“踩刹车”，还应把好“方向盘”，在AI国际合作方面更多展现大国担当、引领治理方向，起到更大的领导作用。

对世界各国、对全人类而言，应当尽早认识到什么是“历史正确一边”“人类文明进步一边”。AI是颠覆性地造福人类还是颠覆性地伤害人类，现在仍然取决于我们的选择，但选择的窗口不会一直开着。

原标题：《上观时评 美国三大巨头难得达成共识，让AI“踩刹车”还来得及吗？》