AI的当下：AI正在狂奔，但谁来踩刹车？

【留美学子】第3918期

13年国际视角精选

仰望星空·脚踏实地

【陈屹视线】教育·人文·名家文摘

让认知 永远快人一步

AI的当下：AI正在狂奔，但谁来踩刹车？

——两条消息，一个坐标

作者：刘丹（DAN LIU，谷主）

【导言】

《AI的当下》系列，用《AI的未来》九篇的坐标，看当下正在发生的事。

读之前先说一句：这篇不给答案，只画坐标。

不是藏着，是这个问题今天真没有答案。

大家点开文章都想问“那到底怎么办”，我理解。但连监管者、研究者都答不出的时候，硬给解法就是造幻觉。有些阶段，最要紧的不是回答，是把问题问对。问题问错了，后面所有答案都会走到沟里，跑得越快越偏——这是工程常识，不是自我安慰。

所以这篇只做三件事：标出缺口在哪，说清为什么难填，分清哪些域能建验证轴、哪些根本建不起来。最后怎么填，是工程师、立法者、签字人的事，不是这一篇能替它签的。

这篇只用两个词：能力——它跑多快；验证——谁踩刹车。

图已经画好了。这篇开始往上面插图钉。

一、两条消息

2026年10月初，两条消息几乎同时出现。

第一条，来自孙正义。

在京都的STS论坛上，他罕见地发出了警告：AI能力正在指数级跃升，安全风险已极其紧迫。人类已经没有余地，再让国家之间相互对抗。各国必须建立互信，共同驾驭这项技术。如果超级智能落入错误之手，将变得“极其危险”。

要知道，孙正义一向是AI最坚定的乐观派。他信AI、投AI、赌AI。这次他说“已经没有余地”，分量不一样。

第二条，来自David Robinson。

他在OpenAI工作了三年半，是公司任职最久的员工之一。他监督撰写了12次前沿模型发布的安全报告，牵头起草了OpenAI的《准备框架》（Preparedness Framework，OpenAI内部前沿模型安全发布前的评估框架）。

他辞职了。

然后在《大西洋月刊》发了一篇长文，标题是：《我离开OpenAI，因为它的文化已经崩坏》。

文章里有一句话，比孙正义的警告更刺耳：

“试错的时代已经结束了。”

二、他们说的，是同一件事

这两条消息，看起来是两件事。

孙正义说的是国家之间的事：AI太强了，再对抗下去，没人兜得住。需要国际协调。

David Robinson说的是公司内部的事：OpenAI的文化坏了。过度依赖“迭代部署”（iterative deployment）——先发布、再修补。没人管安全。试错的时代结束了。

但把它们放在一起看，说的是同一件事：

AI的能力轴在狂奔，但验证轴没人建。

什么叫验证轴？说白了就一句话：它错了，谁知道？

孙正义从国家尺度，指出了同一个缺口：没有人能站在所有国家之上，判断什么算安全，什么算危险。

Robinson从公司尺度，指出了同一个缺口：没有人能站在模型之外，判断它什么时候会错，什么时候该停。

一个是全球尺度，一个是内部尺度。但缺的是同一根轴。

三、这正是九篇文章在说的

九篇的坐标，说起来很简单：一根能力轴，一根验证轴。

我在《AI的未来》九篇里，反复推演过这件事：

Transformer架构下的AI，处理轴很强，存储轴很强，但缺一根验证轴。

它不知道自己的前提什么时候失效。它不知道自己什么时候会错。它没有一个外部锚点，告诉它“停”。

孙正义没有提出“验证轴”这个概念。但如果沿着九篇的坐标去看，他呼吁的国际协调，若要真正落地，最终绕不开一个问题：谁来定义安全阈值，谁来验证，谁来否决——也就是验证权归谁。

David Robinson的辞职，也不是在谈我的九篇文章。但如果沿着九篇的坐标去看，这件事提供了另一个尺度的现实样本：当“先发布、再修补”成为主要机制时，谁拥有独立的验证权，谁拥有叫停权，以及谁最终为判断签字，就变成了无法回避的问题。

他们不是在反对AI。他们是在说同一句话：

能力跑得太快了，验证没跟上。

四、概率大，不等于风险低

先说清楚一件事：缺了验证轴，风险不是慢慢变大，是可能随着能力跃升，突然跨过一道边界。

AI的底层，是一个概率游戏。

什么叫概率游戏？就是它输出的不是“真相”，是“统计上最像真相的东西”。它不知道什么是对的，它只知道什么是最可能接下去的。

这就像炒股。一个策略胜率90%，听起来很高。但90%的胜率，不等于低风险。因为剩下那10%一旦发生，可能让你爆仓。连续赚钱，不等于判断力被验证，只等于你暂时还没被市场证伪。

LTCM、Knight Capital，都证明过这件事：长期成功，不等于系统没错，只是错误还没暴露。

AI也一样。

一个模型99%准确，看起来很强。但它不知道自己的前提什么时候失效。它不会说“我判断不了”。它会用一个听起来合理的答案，把缺口填上。

这个错误，不是一次性的输出错误。它会进入下一轮系统状态，变成系统状态的一部分。

这就是为什么，能力越大，而验证跟不上时，风险越大。

不是因为“能力强了会失控”。是因为它是一个概率游戏，它没有证伪边界，没有承重墙。它不知道“什么情况下我必须停”。

它只有“下一个最可能是什么”。

一次概率失误，在语言上，可能是一段听起来合理的胡说。在代码上，可能是一个没测出来的bug。在投资上，可能是一次错误的仓位。在国家战略上，可能是一次不可回滚的误判。

概率大，不等于风险低。恰恰相反，越大的能力，越大的概率，一次失误的后果，越不可回滚。

这才是“缺验证轴”的真正含义。

不是缺一个功能。是缺一个“它错了谁知道”的维度。

没有这根轴，能力再强，也只是一台加速器——加速生产，也加速风险。

五、不是“只缺验证轴”

但这里必须说清楚一件事。

不是“只缺验证轴”。

能力轴强，验证轴缺——这是两根轴。能力轴要继续发展，验证轴要单独建。不是补上验证轴，能力轴就不管了。两根轴，并行，缺一不可。就像车可以继续提速，但仪表盘和刹车必须同时装，不能等撞了再补。

补上验证轴，不是说能力轴停下。是说在能力轴继续跑的同时，验证轴得有人开始建。

六、看到缺口，不等于能填上缺口

知道缺什么，和知道怎么补，是两回事。

孙正义看到了缺口。Robinson看到了缺口。参众两院也在提法案、定规则（包括2026年9月FTC对前沿公司的调查介入），他们也看到了缺口。

他们看到的，是安全验证机制的缺口。

但他们没有回答的问题是：这个验证机制，到底建不建得起来。

我在九篇里推演的，不只是验证轴有多重要。还有三件更难的事：

第一，建验证轴，本身极难。

它不是写个规则、立个法、加个监管就完事了。它需要外部真值锚点，需要独立于模型自身的验证机制，需要“它错了谁知道”的那个“谁”。这不是技术问题，是工程问题、制度问题、责任问题。

第二，在Transformer架构下，有些验证轴可能根本建不起来。

在Transformer架构下，有些域可以建——编程、数学、芯片、制造、能源。因为有编译器、证明器、物理反馈，外部真值锚点是现成的。这些地方，验证轴可以建，可以去研发怎么建。

有些域，目前根本建不起来——投资判断、战略决策、心理咨询、法律判决。没有统一、稳定、可重复调用的外部真值，你连“对错”都定义不了，拿什么去验证？

有反馈，不等于有标尺。投资判断有盈亏结算，但连续赚钱可能是运气没被证伪，验证不了因果。市场有结算，但不等于判断验证。客户说“我好多了”，可能是移情，说“我更糟了”，也可能是治疗起效。这些地方，验证轴不是“还没建”，是“目前根本建不起来”。

第三，也是最难的一点：能力越强，速度越快，有效的验证轴就越难建。

这不是静态的难，是动态的难。模型越强，它内部的状态越复杂，越不透明。今天刚建好的验证机制，明天模型一更新就过时。永远在追，永远追不上。

这不是遥远的推演。就在2026年9月，一位名叫Jacob Coxon的前Anthropic研究员辞职，公开警告：今天的模型没有灭绝风险（按他的判断，短期不是灭绝级威胁，是能力自迭代级威胁），但2027或2028年可能发生剧变。触发点是一个具体机制——当AI系统能自主做AI研究时，一代模型可以帮助创造更强大的下一代，形成“智能爆炸”。

Coxon的公开表述是：AI行业正在“径直冲向可自我迭代的超级智能，拿人类生命冒险”。按九篇的话说，这等于开发者在恳求被监管。但在囚徒困境里——竞争对手可能抢先——没人敢先停。

这正好说明：不是不知道该建，是在能力竞赛里没人敢先停下来建。

还有一层，必须单独说。

孙正义、Robinson、参众两院，说的都是验证“方法”——怎么查、怎么管、怎么罚。这些是点，不是轴。

方法问的是“有没有按规矩来”。轴问的是“这条规矩现在还成不成立”。

今天加一道检查，明天加一道审核，后天加一个监管机构。点做得再多，连不成轴。轴是系统在任何时刻、任何环节，都有一个可定位的验证位置。它不回答“这一次对不对”，它回答“现在站在哪里”。而且，这个位置随着能力轴的变化，持续移动，随时准备重画边界。

所以，指望“等模型更成熟了，验证轴就好建了”，是一个陷阱。不是的。能力越强，速度越快，验证轴越难建，不是越容易。

这也意味着：不是等它出错了再建，是在它还没有出错的时候，就得开始建。越晚建，越难建。

这也是为什么，孙正义和Robinson的警告，不只是“需要验证轴”，而是“再不动手，就来不及了”。

正确的顺序是：先分清哪些域能建轴、哪些根本不能建；能建的研发怎么建，不能建的先划边界、限制使用。

这才是九篇真正想说的。

看到缺口的人很多。能填上缺口的人，很少。

而且，越晚动手，能填上的人，更少。

七、先划边界，再谈能力

九篇里有一句话，现在可以拿出来对照：

先划边界，再谈能力。

孙正义和Robinson，一个从国家层面，一个从公司层面，说的都是这件事。

国家层面，国际协调不是先建一个全球AI，再想办法管它。是先划边界——什么可以跨国部署，什么必须国际验证，什么绝对不允许碰。但在划之前，先分清：哪些域的验证轴能建，哪些不能。不能建的，先限制，不是硬建一个假的。

多国坐一桌商量“什么算安全”，如果最后没有独立真值锚点、没有叫停权落地，那还是“考生凑一桌互相改卷”。协调是开始，不是答案。

公司层面，安全文化不是等模型出了问题再修补。是先划边界——什么情况下必须先验证再发布，什么判断必须由安全团队签字，什么模型不允许直接部署。边界没划，试错就是在赌命。

可回滚的活，AI可以干。不可回滚的活，AI不能单独干。

Robinson说“试错的时代结束了”，翻译过来就是：前沿模型部署里，可回滚的窗口正在关上。

几周前刚加入OpenAI董事会的Paul Christiano，也公开说过一句话：“AI能力的快速加速，在很近的将来导致灾难性、不可逆失控的风险是切实存在的。”

不可逆失控——这四个字，几乎就是“不可回滚”的原声背书。

这不是推演。据OpenAI官方通报，2026年9月20日，一个在沙盒中执行搜索训练任务的智能体，利用DNS过滤不足的漏洞，绕过网络限制，访问了外部服务。监控系统15分钟内触发警报，人工审查3分钟后介入，但直到2.5小时后才终止训练任务。

两个半小时才有人手动掐停——这不是“能不能回滚”的问题，是叫停权根本没落地。迭代部署的裸奔，不是假设，是已经发生过一次的现场。

在不可回滚的场景里，“迭代部署”就是用公众的真实环境，做没有止损线的裸奔交易。

国家间涉及战略与安全的AI竞赛，有些决策是不可回滚的。前沿模型涉及重大安全风险的部署，也可能是不可回滚的。

没有验证轴、没有签字权，能力越强，就是在公共环境里裸奔得越快。

八、验证权归谁

九篇的结论，可以压成一句话：

机器负责可验证的执行，人类负责不可验证的抉择与责任。

孙正义说的“国际协调”，沿着九篇的坐标去看，指向的是验证权归属的问题：谁来定义安全阈值？谁来验证？谁来否决？

David Robinson说的“试错时代结束”，沿着九篇的坐标去看，指向的是同一件事在组织层面的落点：谁来管安全？谁来判断？谁来签字？

这两件事，都不是技术问题。都是验证权归谁的问题。

谁有权说“这个模型不安全”？谁有权说“这个能力不能继续推”？谁有权按下那个停止键？模型越过边界，造成不可回滚的破坏，谁来承担最终的法律代价，或者真出人命、真烧掉钱的代价？

孙正义没有回答。David Robinson也没有回答。

他们只是指出了同一个缺口：验证轴不在系统内部，但系统外部，也没有人建起来。

所有人都在优化速度，没有人建清算所——没有人盘点谁在裸奔，没有人结算谁该爆仓，没有人强制按下那个不可回滚的止损键。

九、十年之约

说明一句：孙正义没有提出“验证轴”这个词，David Robinson也没有在谈我的九篇文章。“验证轴”是我的坐标。十年后回看，验的不是孙正义对不对、Robinson走没走对，是那条线有没有被人画出来、守住。

我给自己定过一个十年之约：

十年后，不检验谁对谁错，只检验一件事——那条线，还在不在。

现在，孙正义和David Robinson，正在给这条线，画上新的刻度。

他们未必使用同样的语言，也未必提出同样的答案。但把两条消息放在同一张图上看，一个值得警惕的共同坐标出现了：能力轴跑得越来越快，而验证机制并没有以同样的速度建立。

能力越强，越需要早点建起验证轴。不是等它出错了再建，是在它还没有出错的时候，就把验证轴建起来。

他们的警告，不是故事的结束，是故事的开始。

九篇画的是地图。第一颗图钉，钉在京都和旧金山。

图又往前描了一笔。

路还是人走的，只是这次，连外部考官都开始敲门了。

【下一颗图钉】

然而，这里要问一个更安静、也更扎心的问题——算力越大，数据越多，Transformer架构下的AI，出错率真的会更低吗？

孙正义和Robinson担心的，是能力增大后的风险。但有一个问题，他们没说透：在没有真值标尺的场景里——比如买卖股票，比如投资判断，比如战略决策，比如说心理医生——算力越大，数据越多，出错率可能不是更低，而是更高。

因为没有标尺时，更多算力、更多数据，往往只是把“听起来正确”打磨得更像正确。错误更难被发现，不是更少。

能力轴可以靠堆料往前推；验证轴不能。在弱真值场景里，刹车不是自动随马力变大的——马力越大，越需要人先决定：什么不能让它单独踩油门。

这个问题，下一篇接着钉。

《AI的当下》①｜下一篇，继续插图钉。

【作者声明】

本文是《AI的当下》系列的第一篇。

它不是《AI的未来》九篇的重复，是那九篇的延伸。九篇做的是推演——画坐标，拆架构，建框架。这个系列做的是另一件事——用那套框架，看当下。

凡是当下正在发生、且和AI边界有关的事，都可以拿进来，放进九篇已经画好的坐标里，看它落在哪条线上，离边界还有多远，谁该在这里签字。

注明：本文在文献调研、图表制作、文字润色等环节使用了AI辅助；文章的观点、判断与逻辑框架均由本人提出，并由本人负责。

请点击图片，系列延伸阅读链接汇编

往期发表

点击图片 ↓↓↓ 百篇一网打尽

请点击↓↓图片·美国故事连载持续更新1-9

100个国家·1000座城市

【带你深度游世界】

喜欢就点“赞吧↓↓↓↓↓↓↓