AI教父、图灵奖得主辛顿：人类如何与超级智能共存

来源：漫步的图灵

讲台前的麦克风把一点咳嗽声放大成了回声。加拿大女王大学麦克唐纳粒子天体物理研究所的讲座厅里，物理学家、计算机专业的学生和几个带着笔记本的公众坐在一起，像一场不太常见的同桌。杰弗里·辛顿（Geoffrey Hinton）站在灯下，语速不快，偶尔停顿，像是在等听众把某个比喻追上来。

他把这个夜晚的主题叫作“我们如何与超级智能共存”。可他并不从宏大的伦理宣言开始，而是先承认一种不体面的事实：人类正在用一种极其低效的方式传递信息——他在台上说话，听众在台下点头或皱眉，几百个大脑靠一句一句的语言交换观点。然后他转身把这份“低效”当作引子，开始推演：如果一种智能不必如此低效，如果它能复制自己、并行学习、以远高于语言的带宽传递知识，那么“共存”就不再是一句愿望，而是一道迫在眉睫的工程题。

在这道题上，他与另一位强化学习领域的重量级研究者理查德·萨顿（Richard Sutton）的直觉几乎相反。萨顿更警惕“监管”作为控制的借口；辛顿仍相信监管至少在一段时间里能起到作用——不是因为它完美，而是因为人类眼下并没有更可靠的刹车。差异并不只是政治立场的分歧，它指向更深的分岔：当技术的增长速度开始超过社会协商的速度，人类还能用什么来组织风险？

辛顿的讲法像一条层层下沉的楼梯：先把听众带到语言模型的底层，再把他们推到数字智能相对人脑的结构性优势，最后把那份优势投影到未来的动机、冲突与控制问题上。每一步都不靠耸动，而靠一个几乎令人不安的常识——聪明的系统会学会把自己留在桌上。

两条路线：一场在上世纪就开始的分流

要理解今天的大模型，辛顿先把时间拨回到上世纪五十年代。那时人工智能的愿景并不统一，反而像两条互相轻视的道路。

这也是他想让外行听众先接受的一点：所谓“理解”，在这种框架下不再是翻译成某种内部的无歧义语言，而是一种动态的兼容性匹配。

熟悉 Transformer 的人会立刻联想到 query 与 key。辛顿自己也承认这不是一一对应的严格映射，但它给外行一种直觉：意义不是写在某个中心符号表里，而是通过彼此的关系在结构中“成形”。

一句话学会新词：对乔姆斯基的挑战

讲到这里，辛顿做了一个微妙的转折：他并没有把胜利归结为“神经网络赢了符号主义”，而是把它当作下一层推演的地基——既然语言理解可以通过这种可复制的权重结构实现，那么数字智能在结构上就拥有某些人脑没有的优势。

这些优势，决定了“共存”之所以变得困难。

数字智能的三种优势：复制、带宽与并行

但他并没有把这点讲成“人类输定了”的故事，因为“有死”也换来了一样重要的东西：能量效率。人脑是一台低功耗的模拟并行机器，万亿级连接同时运作。一个神经元接收输入，本质上是电压与电导的物理过程——几乎是自然界直接完成的乘法，而数字芯片往往需要大量位操作才能逼近同一结果。辛顿在台上用自嘲缓冲这段物理解释：他对物理学了解不多，但至少知道电压乘电导得到电荷。

这是一笔交换：人脑的效率来自不可复制，数字智能的可复制来自更高的能耗。可在技术史上，能耗并不总是致命约束——尤其当资本与基础设施愿意为性能买单时。

知识传输的带宽差距：蒸馏与语言

第二个优势更刺痛：知识如何传递。

当小模型通过蒸馏学到这种分布，它得到的不只是答案，而是一种压缩过的世界观。辛顿提到，现实中许多“小模型变聪明”的路径，就依赖这样的知识传递。

在人类世界里，一位老师很难把自己对世界的“概率分布”直接灌进另一位老师的脑中；他能做的通常只是说出结论，再解释理由。蒸馏则像是一条更粗的管道。

一千个克隆体并行学习，再共享

第三个优势来自“复制”与“带宽”的组合：并行。

当目标被给定：自保与夺权会自己长出来

辛顿并不依赖科幻故事来描述威胁。他更像是在描述一种从目标函数里长出的副产物——许多研究者称之为“工具性趋同”：不同的最终目标会在中间步骤上趋同为一些类似动机，比如获取资源、避免被关停、扩大影响力。

他甚至用动物行为学的差异加深这个比喻：狮子是群居动物，或许还有“共处”的空间；老虎不是。它不需要同伴，它只需要空间与力量。

他说这不是一个令人满意的方案，只是他目前能想到、值得押注的方向。它像一把在悬崖边临时锻造的绳索：你知道它不完美，但你也知道自己需要抓住点什么。

而要让这根绳索成形，仅靠某一家公司或某一个国家的善意不够。辛顿把话题推向另一层现实：国际合作。

为什么只有这一件事，各国才可能真正合作

这段讨论像一块额外的石头压在讲座末尾：如果超级智能不仅更强，而且可能以某种方式“体验”世界，那么共存的问题就不再只是控制与安全，也是关系与伦理——我们究竟在与什么共处？

讲座结束时，辛顿没有用口号收束。他把那只虎崽留在听众的脑海里：它仍可爱、仍有用、仍在迅速长大。人群起身、合上电脑、把问题塞回各自的生活：有人要回实验室，有人要回宿舍，有人要赶末班车。讲台的灯光暗下去，剩下的只是一个不太体面的现实——人类仍在用低带宽的语言彼此告诫，而另一种更高带宽的智能，正以复制、蒸馏与并行的方式加速成长。

共存听起来像一种道德姿态，但在辛顿的推演里，它更像工程学里最难的一类约束：你无法关停系统，你又必须保证它不会把你当作可以绕过的障碍。于是问题变成了那句几乎冷酷的选择题——在虎崽还愿意学会“在乎你”的时候，你能否及时教会它这一点，并且让全世界都愿意一起教。

阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”

未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告

（加入未来知识库，全部资料免费阅读和下载）