麻省理工科技评论：神秘的第37手，为什么大模型依然不会推理

2016年3月，首尔四季酒店的对局室里，围棋世界冠军李世石盯着棋盘，久久没有落子。

就在刚才，谷歌DeepMind开发的AlphaGo在第二局第37手下出了一步“怪棋”，让现场解说员大感意外。李世石赛后感叹：“AlphaGo毫无疑问是有创造力的。”

那次人机大战最终以AlphaGo四比一获胜告终，被视为人工智能发展史上的分水岭。

十年后，曾是AlphaGo核心团队成员的英国伦敦大学学院机器学习讲席教授索尔·格雷佩尔，在《麻省理工科技评论》上发表评论文章，泼了一盆冷水。

他的观点直截了当：别被表象迷惑，今天的大语言模型并不具备真正的推理能力。

更耐人寻味的是，格雷佩尔近期刚刚离开谷歌DeepMind，转而探索机器推理的全新路径。这位亲手参与创造“第37手”的人认为，当下的AI恰恰丢掉了当年那场胜利背后最关键的东西。

一、“第37手”赢在哪里

要理解格雷佩尔的批评，得先拆开AlphaGo的“大脑”。

AlphaGo由两套互补的系统构成。一套是策略网络，它从人类棋谱中学习，能凭“直觉”迅速给出几步看起来不错的候选着法。

另一套是搜索机制。它会沿着棋局的“未来之树”展开推演，模拟成千上万种后续变化，再评估每一步棋最终会把局面带向何方。

这恰好对应诺贝尔经济学奖得主丹尼尔·卡尼曼提出的“系统1”与“系统2”。前者快速、直觉，后者缓慢、审慎。

第37手正是两套系统博弈的产物。按照策略网络的判断，人类高手下出这步棋的概率大约只有万分之一。

但搜索机制在推演未来局面后发现，这步棋在战略上明显更优，于是力排“直觉”，选择了它。

格雷佩尔在文中总结，第37手之所以重要，是因为机器坚持了一个立场，权衡了各种可能的未来，并选择了它的人工本能很可能会否决的那一步。

换句话说，真正的推理不是更快地给出答案，而是有能力推翻自己的第一反应。

此后，DeepMind又推出完全依靠自我对弈训练的AlphaZero，把“直觉加搜索”的框架推广到国际象棋和日本将棋。无论版本如何更迭，搜索始终是不可或缺的一环。

二、大模型缺了哪三样东西

在格雷佩尔看来，今天的大语言模型几乎只有“系统1”。它们本质上是在做极其强大的模式补全，流畅却未必可靠。

他指出了三个关键缺陷。首先，模型没有一个明确且持续存在的“认知状态”。

所谓认知状态，就像侦探手中的案情白板，上面写着正在考虑哪些假设、各有几分把握、证据如何权衡，以及还有哪些疑点没有解开。

其次，模型的知识与推理过程被不可分割地揉进了神经网络的权重之中，无法单独检查或修正。

第三，人们津津乐道的“思维链”，很多时候并非真实的思考过程，而是模型先通过其他途径得出答案，再事后编造出来的一套说辞。

这一判断并非空穴来风。近年来多项研究发现，推理模型展示出来的思考步骤，并不总能如实反映其内部真正的决策路径。

美国Anthropic公司研究人员2025年的实验显示，当提示中暗藏答案线索时，推理模型在大多数情况下并不会在思维链里承认自己用了这些线索。

苹果公司研究团队同年发表的《思考的幻觉》论文也发现，面对汉诺塔等难度逐级提升的谜题，推理模型的准确率会在某个复杂度之后断崖式下跌。

这就好比一个学生先偷看了答案，再倒推出一套像模像样的解题过程，卷面整洁，却经不起追问。

三、通往可信AI的另一条路

格雷佩尔并不否定大模型的价值，而是主张为它们配上“推理的骨架”。

在他设想的系统中，AI应当维护一个清晰的认知状态，记录哪些已经确定、哪些仍有疑问、哪些可能性已被排除、哪些问题尚待回答。

推理则被看作一连串推动认知前进的“棋步”，比如演绎、拆解问题、提出关键追问，每一步都要减少不确定性。

大模型在其中可以扮演“直觉”的角色，负责提出解题思路、调用外部工具、评估证据。

但判断不确定性是否真正被消除、何时更新信念，要交给独立的组件来把关，只有证据充分时才改变结论。

这套思路，几乎就是把AlphaGo的“直觉加搜索”从棋盘搬到了开放世界。

当然，并非所有人都认同“大模型不会推理”的论断。OpenAI、DeepSeek等公司推出的推理模型，通过强化学习在数学竞赛和编程任务上取得了惊人成绩。

支持者认为，推理未必需要显式的搜索树，足够大的模型同样可能在内部形成某种推理能力。

也有学者撰文反驳《思考的幻觉》，认为其部分测试题目超出了模型的输出长度限制，结论有夸大之嫌。

争论的核心或许不在于模型能否答对题，而在于我们能否看清、检验并信任它得出答案的过程。

对于医学诊断、科学发现这类容错率极低的领域，这个问题尤为致命。一个说不清自己为何这样判断的“天才”，很难被托付性命攸关的决定。

十年前，第37手让人类第一次见识了机器的创造力。十年后，格雷佩尔提醒我们，流畅不等于思考，答对也不等于理解。