把脑子里的东西告诉其他脑子：语言

前四步走下来，一个动物已经会分好坏、会为未来付出、会在脑子里预演、还会猜别人的心思。但它再聪明，脑子里那点东西也只能留在自己的颅腔里，最多靠动作示范让同类照着学一下。这一篇讲人类多出来的最后一招，也是把人和别的动物彻底分开的智能，第五步： 语言 。简单说就是，我能把我脑子里的东西告诉你，让你的脑子里也大致有我脑子里的东西。

班尼特说，语言不是天生的，是后天学来的一套社会化的符号。没有什么道理规定这个声音非得代表这个意思，纯粹是大家约定的。但靠着这个约定，人能做一件别的动物做不到的事：不用做给你看，我直接把我想象中的东西、我脑子里的那个模型，说给你听。一头狮子怎么打猎，小狮子只能跟着看；而一个人可以把昨天看见的蛇、明天要打的猎，甚至一个根本不存在的神，讲给另一个人。知识于是能跨过一个个脑子、一代代人累积起来。这才是那场“早就发生过的智能奇点 ” 。

一、机器怎么做：从条写规则，到意义的自生长

语言在“中古的人工智能”那里，是最复杂的问题。早年的自然语言处理(NLP)，走的都是符号那一套，用命题逻辑、谓词逻辑去拆句子，用语法规则去对应结构，用知识图谱去保存“谁是谁的什么”。听起来很严谨，可一碰上真实的语言就不行了，因为人说话根本没那么规则：一句话常常有好几种意思，“苹果”是水果还是手机，全看上下文和谁在说；同一个词换个场合，意思就变了。规则越补越多，例外却总也写不完，到后来那套系统自己都维护不动了。这和专家系统遇到的是同一个问题，人想把一件极复杂的事，用有限的规则从上往下写清楚是不可能的。

转折在2017年Google发表的那篇“Attention is all you need.”，提出了注意力机制和Transformer算法。它不再让人去写“这个词什么意思、这句话什么结构”，而是把海量文本喂进去，让模型自己去算每个词边上出现其他词的概率，机器产生的语言就从统计结果里出来了。

更早一点的词向量已经露出了一点苗头：没有人定义“国王减男人加女人约等于女王”，大模型可以从大量句子里学到的词向量，然后就明白了这个关系。今天的大模型本质上一直在做一件事： 预测下一个词 。为了把下一个词说对，它不得不把语言背后的世界的结构，尽量存进自己的参数里。这又是自上而下和自下而上的区别：过去的算法想把语法规则写进系统，而大语言模型是让语言的规则用概率算出来。

从那以后，这条路主要靠一件事往前推进：把模型和数据一起做大。GPT一代又一代地加参数量、加数据，人们慢慢发现，规模一大，能力会“涌现”：本来不会的翻译、写代码、多步推理，堆到某个量级上突然就会了，这种突变谁也没提前设计得出来。再往后，重心从“接上下一个词”到“把话说得对人有用”，先拿人写的示范去调教它，再用人给回答打分去校准它，也就是前面 学会为还没到手的东西付出：强化 讲过的基于人类反馈的强化学习(RLHF)。最近这两年又多了一步，让模型在开口之前先自己“想一会儿”，把中间的推理一步步展开，这就是所谓的思维链和推理模型。

短短几年，大模型从一个高级的自动补全，变成了能写、能译、能编程、还能一步步讲道理的东西，靠的始终是同一条路：不是把语言的规则写给它，而是让它自己从海量文本里长出来。

二、最新进展：会说话等于会思考吗

这一步最该问的一个问题是： 语言和思维，到底是不是一回事。 我们太习惯“用语言思考”，以至于默认没有语言就没有思想。但这两年神经科学给出的答案，正好相反。MIT教授埃维莉娜·费多连科(Evelina Fedorenko)做了很多年的实验，提出 现代人类的语言是一种交流工具，而不是思考工具 。大脑里管语言的部分，和管思考、推理、计算的部分，基本上是分开的。严重失语的病人，语言能力几乎没有了，照样能做算术、能推理因果、能下棋、能想明白一件事该怎么办。也就是说，语言更像是一套给思想用的传输协议，是为了“说给别人听”，未必是思考本身发生的地方。

这件事正好照出了大模型的一个软肋：一个纯粹靠语言喂大的东西，到底是在思考，还是只是把人类说过的话，按概率接下去？这其实就是塞尔那个“中文屋”的问题，一个人关在屋子里，照着规则手册把递进来的中文纸条对答如流，屋外的人以为他懂中文，其实他一个字都不懂。只是现在，这个思想实验从纸上变成了我们每天在用的产品。

塞尔这个论证争了四十多年，有不少人反驳。约翰·麦考密克(John MacCormick)在《Thinking AI》里就想“逃出中文屋”：把屋里那个人换成一台能跑程序的电脑，人就退成了一个打字员，问题于是从“这个人懂不懂”变成了“这个程序懂不懂”，而这其实就是图灵测试；他再往前一步，说如果这份理解是从大量单元的互动里“涌现”出来的，那“看起来的理解”也应该是真的。这个解释虽然说得过去，但是对“理解”而言，还是没有解释到位。

语言和思维是分不开的，最新AI的进展，连机器内部都能看到一些影子。就在前几天，Anthropic发布了一项研究，说他们在Claude内部找到了一小片神经活动模式，起名叫“J空间”，是用一种叫Jacobian lens的方法读出来的。它像模型的一块草稿区：模型在回答之前，会先在这里默默把多步推理的中间步骤走一遍，这些内容并不直接输出。大部分流利的话，根本不经过这片区域，是“自动”冒出来的，只有需要认真推理时才会用到这个区域。换句话说，机器这边也隐隐分成两部分：可以直接回答的，和需要思考后回答的，它们不是一回事。这跟费多连科在人脑里看到的是类似的，也可以说是卡尼曼的系统一和系统二。

Anthropic自己还把它联系到了认知科学里的 伯纳德·巴尔斯(Bernard J. Baars)提出的 “全局工作空间”理论（global workspace theory）。这个理论说，意识大致就是信息被“广播”到一个所有子系统共享的工作空间里，被广播到的才进入我们意识得到的那一层，其余的都在底层自动运行。如果问人脑里有没有对应“J空间”的地方，这个理论的回答是有的，它是摊在额叶和顶叶上的网络皮质，并不是界限分明的一块区域。当然，机器那片“工作空间”和人的差别也很大：它在网络里一层层铺开，只和词打交道。此外，J空间里没有任何“感受”。研究者自己也说，这套往AI脑子里看的方法还非常粗糙。

反过来还有一件事，正好能印证班尼特说的“语言是后天学来的社会约定”。上世纪八十年代的尼加拉瓜，一批原本各自在家、彼此没有共同语言的聋童，被集中到一起上学。学校起初想教他们读唇、学西班牙语，效果很差；可这群孩子自己在课间、在校车上，硬是从零攒出了一套全新的手语，而且越往后进来的孩子，把它用得越有规矩，慢慢长出了完整的语法。没有人设计它，它是一群人凑在一起产生的。班尼特说，这正说明语言不是谁发明出来、再教给大家的，而是一种社会约定。

老实说，这个例子也能反过来理解。顺着乔姆斯基的“普遍语法”，斯蒂芬·平克那一派会说，孩子能凭空攒出一套带语法的手语，正好证明人天生就带着一套“语言本能”，语法是刻在基因里的、不是学来的，平克有本书就叫《语言本能》。

我不是特别认可平克这个说法，而是更偏向班尼特和索绪尔（Ferdinand de Saussure）的观点： 具体的词和具体的约定，是后天长出来的。 不过平克有一个观点说得不错，人确实天生带着一股“非把语言学会不可”的劲，别的动物没有。只是这股劲到底是不是有一套专门的“语法本能”，并不是很确定。在我看来更可能是：人先有了心智理论那套本能，总想知道别人在想什么、也总想让别人知道我在想什么，才让语言的出现成了可能。

班尼特在最新的访谈里还提了两个比较反常识的点。一个是脑容量的问题。人之所以有语言和文明，并不是单纯因为脑子比别的动物大。另一个点是语言带来的“共享虚构”。这和尤瓦尔·赫拉利(Yuval Noah Harari)在《人类简史》里说的那套一样：钱、国家、公司、法律、神，这些东西在物理世界里一个都不存在，全是靠语言编出来的，然后被一大群人共同相信。正是这种“一起相信一个不存在的东西”的能力，让成千上万互不相识的人能够合作。文明不是建立在事实之上，而是是建在共享的虚构之上。你手里的钱之所以是钱，只是因为所有人都同意它是钱。而这个同意，本身就是语言的产物。

三、语言的边界

维特根斯坦(Ludwig Wittgenstein)有一句被引用得很多的名言： 语言的界限就是世界的界限 ，放到今天看别有意味。大模型存在于语言的界限里，语言能说到的，它都能处理；语言说不到的，它就无能为力了。一次真正的饥饿、一阵真正的疼痛、一脚踢到铁板上痛得跳来跳去，还有人的感受、情绪和体内那些激素的冲动，都是大语言模型这样的AI无能为力的部分。

顺着这个智能发展的序列，碳基智能是从最底层慢慢堆上去的：先有了会饿的身体，才分得出好坏；有了好坏，才谈得上为未来付出；有了付出，才有脑子里的模拟；有了模拟，才谈得上揣摩别人的心思；最后才落到了语言上。

而大模型是反过来的，它一下子就起源在最高的那一层：语言。然后顺着语言往下扩展，有一点模拟，会谄媚地迎合你。再往下就没有了。会饿的身体、自己的好坏、能伸手碰真实的世界模型，基本不存在。这大概能解释，为什么它一会儿非常聪明，一会儿又有那么多幻觉：它什么都像，但好像又什么都不懂。

所以在“会说话”这里，AI已经非常优秀了，有些场合甚至比我们更会说话。人最不可替代的，不在这最上面的这一层，而在底下那几层，那具会死、会饿、会疼、会在乎好坏的身体。

到这里，班尼特的五级台阶就爬完了： 从一条会转向的虫子，到一台会说话的机器。 那会不会有第六级？比我们更高的智能，又会长成什么样子？这个问题书里没有给答案，我自己倒是有一些猜测，放到下一篇里说。