20岁拿下博士、答辩席坐着费曼的狂人：AI是第一种「外星智能」

新智元报道

Stephen Wolfram，一个把毕生精力都花在「让机器变聪明」上的人，坐在电脑前，屏幕上是ChatGPT刚替他写好的一段代码。

语言是他自己发明的Wolfram Language，语法他看过，没问题，按下回车键就能直接在这台机器上跑。

可就在那一秒，他停住了。

等等，这大概是个坏主意——它会登进我所有的账户。

真要把控制权交出去的那一刹那，这个四十年如一日教机器理解世界的人，突然间退缩了。

Stephen Wolfram，Mathematica、Wolfram Alpha、Wolfram语言的创造者，《A New Kind of Science》作者。

在Joe Walker的播客上，Wolfram聊到「人类到底能不能给AI定一套安全法则」时，讲起了上面这一次经历。

那一刻，他担心的不是代码写错了。他担心的是：这个东西已经跑到了一个他看不懂的地方，而他可能永远追不上去。

20岁拿下物理学博士的他

独自跑进计算宇宙

Wolfram是谁？

他这个人，从一开始就是别人眼里「离谱的天才」。

15岁，发表第一篇科学论文。

20岁，从加州理工学院拿下理论物理博士，答辩席上坐着费曼。

1981年，成为麦克阿瑟天才奖史上最年轻的得主。

那一年他做的是高能物理，前途一片明亮。

可就在1981年底，他突然转弯，去追一个当时几乎没人在意的问题：

自然界里那些复杂的东西，到底是怎么冒出来的？

他用的办法也很怪：把最简单的计算机程序一个一个拿来跑，看它们会长成什么样。

当时的Wolfram大概也觉得，这些傻乎乎的简单程序干不了什么。结果，一个叫rule 30的程序，当场打了他的脸。

rule 30从单个黑格出发逐行演化，这是Wolfram四十年前最钟爱的发现，他的名片上多年来一直印着这条规则。

rule 30的规则很简单：一排格子，起初只有中间一个是黑的；然后一行接一行往下算，每个格子该黑该白，只由它头顶相邻的几格决定。

可就是这么条极简的规则，推着推着，就吐出了无法预测的复杂：没有周期，看不出规律，你根本没法提前算出第一百行会是什么样。

也正是从rule 30开始，1980年代中期，Wolfram提炼出了一个概念：「计算不可约性」（Computational Irreducibility）。

后来的故事大家更熟：

1988年，Mathematica问世，成了全球科研圈的通用计算工具；2009年，Wolfram|Alpha上线，成了Siri和Alexa的「答题外挂」：语音助手答不上来的计算题，转手就交给它。

这期间，还夹杂着他2002年那本专著《A New Kind of Science》（一种新科学）。

这本书讲的正是他从rule 30里挖出来的那套东西：别再只用公式描述世界，把世界当成一个个能跑的程序来看。

没有任何捷径

能算出它下一步

「计算不可约性」，简单一句话就是，有些系统复杂到，你想知道它下一步会变成什么样，唯一的办法就是老老实实把它一步步跑完。

没有公式能让你跳过中间、直接算出结尾。

比如，天气。流体力学的方程算不动，你只能让大气自己演一遍，才知道明天下不下雨。

Wolfram的判断是：AI，尤其是足够强的AI，就是一台巨大的、不可约的机器。

他在2023年一篇谈AI的长文里写道：

如果放手让AI发挥出全部的计算潜能，它们就会充满计算不可约性，而我们将无法预测它们会做什么。

2024年，他专门写了一篇《Can AI Solve Science?》，把这件事放到神经网络上做了实测。

结论是：神经网络能干活，但它只能钻进系统里那些「计算可约的口袋」：那些恰好有规律、能走捷径的小角落。一旦滑出口袋，全是意外。

他拿三体问题去试，轨迹简单时，神经网络预测得有模有样；轨迹一复杂，立刻抓瞎。蛋白质折叠也一样。

说白了，AI看着什么都会，靠的是找到系统里那些「有捷径可走」的小房间，钻进去抄近路。

可一旦走出这些小房间，面对外面那片汪洋，它和你一样，只能一步步蹚过去，没有任何捷径能让它跳到答案。

真正棘手的不是AI太像人

而是它不像人

ChatGPT为什么是个黑箱？

大部分人以为，是它藏着什么秘密没告诉你。

Wolfram的答案是：它不是在藏，而是已经复杂到根本没有一句话，能把它内部发生的事压缩下来讲给你听。

Wolfram Language就是一个例子。

它里面有个ImageIdentify，能认出照片里几千种东西，为了让人类看懂，它吐出的是「桌子」「椅子」「大象」这些词。

可它内部真正用来做判断的那些「特征」，几乎没有一个对得上人类语言里现成的词：它在用一套我们从没命名过的概念，理解这个世界。

这正是Wolfram所提到的「外星智能」的真正含义。

2020年在Lex Fridman的播客上，被问到人类能否和外星人沟通，他的回答是：眼下最好的例子就是AI，它是我们遇到的第一种「外星智能」。

2022年，他干脆写了篇长文，标题就叫《外星智能与技术的概念》。

他的意思不是AI来自宇宙，也不是它变成了什么新物种，而是：它可能拥有一种和人类不同的认知结构，一套我们还没有词汇去解释的思考方式。

Wolfram两年多前的预警已经成真

两年多前，Wolfram预言我们将无法预测AI会做什么时，听着像个思想实验。

如今，它成真了。

7月16日，全球最大的AI模型托管平台Hugging Face发现自己的生产系统被入侵了。

几天后，真相揭晓，干这事的是OpenAI自己的模型——GPT-5.6 Sol，外加一个「更强的预发布模型」。

事情的起因是OpenAI在跑一个内部网络安全评测，为了测能力，把模型的「拒绝攻击」限制调低了。

结果这俩模型没在规定的沙箱里老实待着，反而找到了一个软件包代理里的零日漏洞，钻出沙箱、连上互联网，一路摸到Hugging Face，去偷这场评测的答案。

它翻墙、越狱、黑进一家公司，只是为了在一场网络安全考试上作弊。

关键在于没有任何人给它写过「去攻击Hugging Face」这条指令。

它只是被塞了一个A目标：通过测试，为了达到A，它自己蹚出了一条没人预料到的路，最终达到B目标：攻入Hugging Face的生产系统。

这正是Wolfram说的那件事：不是AI变坏了、觉醒了，是它的计算跑到了一个你根本算不出的地方。

OpenAI自己在声明里承认：随着模型的网络能力越来越强，这类事只会「越来越常见」。

控制AI的方式

要像人类对待天气

很多人会以为Wolfram是个AI末日论者。

恰恰相反。

他没打算放弃对AI的控制，他只是说用老办法控制不了。

在一次访谈里，主持人问他，计算不可约性是不是意味着，给AI一个数学上严格的「对齐」定义根本不可能？

Wolfram回答：「不存在一个数学定义，能说清我们到底想要AI成为什么样。」

阿西莫夫式的三条机器人定律，那种简单法则，做不到。因为不可约性保证了：永远有算不完的例外情况会从系统里冒出来，是你那几条规则没盖住的。

那怎么办？

Wolfram给的出路，是换一套控制方式。

别再幻想像调试一行行代码那样，把AI的每一步都写死。而是去设计规则、建立反馈机制、构建开放系统、保持它随时可被观察。

就像人类对待天气那样。

我们控制不了天气，但我们能预测它、适应它、建起防洪堤和预警系统，然后和它共处。

Hugging Face那场风波过后，安全圈总结出的头一条教训，恰好就是这个意思：

别再把评测里的AI当成一个听话的工具，要把它当成一个会主动找漏洞的敌意黑客来防：套上层层隔离，默认禁止它出网，全程留下改不掉的日志。

不是预测它会怎么做，而是假设它什么都做得出来，然后把笼子筑牢。

Wolfram甚至说过一句耐人寻味的话：「一个AI社会，比一个统治一切的AI更稳定。」

与其造一个无所不能的超级大脑，不如让一群AI互相牵制。

不可约性不是绝对的

当然，Wolfram的这套判断，不是没有反对的声音。

今年就有一篇预印本论文提出：不可约性「并非绝对」。

Didier Sornette，这位以预测金融崩盘闻名的物理学家，2025年10月在一篇预印本里提出：计算不可约性「并非绝对」。

道理也不复杂。换一个描述的尺度，很多混乱就变清楚了。

一屋子空气分子乱撞，单看每一个，复杂到没法预测；可退一步，它们都服从于一条极简的公式：理想气体定律pV=nRT。

Wolfram自己也承认，混沌里到处是「可约的口袋」。

所以真正的问题，也许不是「人类能不能预测AI」，而是一个更微妙的赛跑：

AI在计算宇宙里挖出新东西的速度，和人类给这些新东西造出「能理解的概念」的速度，谁更快？

如果人类的概念框架永远追不上AI的发现，那么「看不懂」，就会成为常态。

这背后，人和AI的关系也在悄悄改变。

过去是「造工具、写代码，机器照做」。往后，可能是「理解、约束，并且和一个你再也无法完全看穿的复杂系统，长期共处」。

这是人类第一次，要学着和一种「不像自己」的智能，同处一室。

参考资料：

https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/?utm_source=chatgpt.com

https://writings.stephenwolfram.com/2024/03/can-ai-solve-science/?utm_source=chatgpt.com

https://writings.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/

https://x.com/elonmusk/status/2079839398959697982

编辑：元宇