为什么人类不会陷入死循环？

我们准时降落在马德里巴拉哈斯机场，却迟迟无法下机。原来，这里的登机廊桥由一套新的人工智能系统操控。无需人类介入——直到非介入不可。我透过舷窗，看见AI操控的廊桥反复靠近飞机，在清晨的空气中轻轻晃动，徒劳地尝试对接，然后又退回去。如此往复，陷入了无限循环。最后，一名工作人员赶来解围，一眼就看出了问题，并立刻解决了它。

人类不会无休止地重复同一种行为，AI却有时会如此：它可能卡在停机坪上，也可能困在自动化呼叫中心的炼狱里。这些例子看似只是智能不足，但我认为，它们指向更深层的问题：一种根本性局限，可能让最聪明的AI也永远无法摆脱陷入无限循环的风险，既察觉不到问题，也无法脱身。

设想一座更聪明的登机廊桥：系统能够监测自身表现，发现自己何时在徒劳尝试、何时未能完成任务。凭借这个关于环境和自身行为的内部模型，它能完成当今自动廊桥做不到的事。但它最终也会出故障。于是，你再增加一个更高阶的反馈回路：在模型内部再建一个模型，监测它自身的监测过程。如果这也失灵了呢？那就再加一层。如此不断递归，每增加一层，都能增添某种智能，也让系统更加稳健。但总有可能再出一次故障，让层层自我监测的系统发生错误。除非你建起无限多层递归自检机制，否则系统终究会陷入无限循环，永远无法满足停止条件，一切随之崩溃。

计算机科学家与这个问题较量了近一个世纪。1936年，艾伦·图灵证明，不存在一种算法，能够在所有情况下判断另一个算法在给定输入后，究竟会停止，还是会永远运行下去。下面这个例子有助于直观理解。假设你正在编写代码，指挥机器人行动。有些程序很简单：机器人完成任务，算法随之结束。但另一些程序则很复杂，包含循环与条件：“一直移动，直到看见红色物体。”如果机器人始终看不到红色物体，或者程序逻辑存在缺陷，它就可能永无止境地执行指令。无论你的代码多么先进，都可能无法预测它究竟会不会停止。

图灵的洞见是抽象的，而在所谓的“框架问题”（frame problem）中，算法的局限变得更加具体。约翰·麦卡锡与帕特里克·J.海斯（Patrick J. Hayes）于1969年提出了这个问题。广义而言，框架问题是指这样一种困难：如何让机器依据相关信息作出明智决策，同时不必明确考虑每一项无关细节。在任何情境中，无关信息都可能无穷无尽，因此，机器很难知道哪些信息不该纳入考虑。这又为另一种无限循环打开了大门。

这些问题曾是人们思考自然智能与人工智能的重要里程碑。但随着一波波深度神经网络和生成式模型席卷社会，它们大多退到了背景之中。这并不意味着问题已经消失。马德里的登机廊桥表明，当硅芯片真正来到停机坪上，出错的可能依然很多。AI系统可能始终面临无限循环的风险，原因不在于算力不足，而在于这类系统与我们具身的生物大脑之间，存在更深层的差异。

这种差异，始于计算机和大脑与时间的关系，最终通向意识这一日常奇迹。

智能与意识是两个不同的概念，尽管一些科技领袖误以为，前者的增加必然会带来后者。简单说，智能关乎做事，意识则关乎存在或感受。不过，两者仍有联系，至少在人类和其他动物身上如此。我的假说是：某些形式的智能，具体来说，是在一个可能性没有预设边界的世界中彻底摆脱无限循环威胁所需的智能，依赖于有意识的心智所具备的能力，而这种心智深深嵌入时间的流动之中。

图源：Jon Han

扎根于时间与熵

不断叠加自我监测层级，或许足以造出一座令人满意的登机廊桥，但人类并不是这样应对复杂性的。像你我这样活着且有意识的生物，无需层层增添愈发奇异的回路，就能在远比机场难以预测的环境中生存，甚至繁荣发展。事实上，人类心智虽然奇妙，却不擅长处理递归。我们大多数人最多只能应付三层：知道自己知道自己知道。例如，有时我会确信，自己有能力判断何时是对的、何时是错的。我们在开放世界中展现出的惊人适应能力，似乎必定另有基础。

这个“另有基础”究竟可能是什么？一种可能是：我们的心智、大脑以及意识体验，都以某种方式扎根于时间与熵之中；而算法在设计上恰恰没有这样的根基。

我们人类也是动物，与其他生物一样，必须不断抵御热力学第二定律所规定的衰败与无序趋势。这条定律指出，孤立系统的熵只会增加，或者保持不变；熵是衡量无序程度或随机性的指标。一滴墨水会在一杯水中扩散，再也不会自行聚回原状；打破的鸡蛋也不会自己恢复完整。这条定律令人敬畏，正如物理学家阿瑟·爱丁顿所言：“如果你的理论被发现违背了热力学第二定律，我就无法给你任何希望；它别无出路，只能在极度的屈辱中崩溃。”

热力学第二定律的一个关键之处在于，它适用于孤立系统，例如密封的保温瓶，系统与周围环境之间没有能量交换。在能够与环境交换能量的开放系统中，熵则有可能降低。生命系统就是开放系统的典型例子：它们利用环境中的能量，让自身维持在活着这一从统计上看出乎意料的状态。

这一过程以不同方式、在不同层级上展开。我们体内的细胞借助代谢的能量流动，不断重新创造维持自身存在的条件。根据神经科学中的一些重要观点，尤其是自由能原理（free energy principle），神经回路持续努力，将感觉输入在统计意义上的意外程度降至最低，降低这些输入的熵，并由此对身体的生理状态施加某种预测性控制。

意识体验也直接反映出这种维持生命的根本驱动力。每一次意识体验都会汇集大量与生存有关的信息，以此引导我们的行为，无论这些行为是否出于自愿。而且，可以说，所有这些体验都带有一丝效价（valence），也就是或多或少的正面或负面感受，可能促使我们采取某些行为。正如我在《意识机器》（Being You）一书中所写，我们依托活着的身体、通过身体，也因为身体，才得以体验周围的世界，以及置身其中的自己。

这些跨越不同尺度的过程紧密交织，每一种都与时间密切相连，只是方式不同。代谢过程在生物化学的时间尺度上展开：我们体内每个细胞每秒可能发生10亿次反应。神经活动的时间尺度更慢，但同样受到神经生物学局限与适应机制的制约：既有髓鞘加速的动作电位传递，也有神经递质的缓慢扩散。在意识流中，时间的流逝连续、不可抗拒而又复杂，既包含先后次序，也包含流动、时长与持续。身体、大脑和心智中的时间丰富、动态且多维；从生物化学到个人身份认同，各个层级都深深相互依存。我们的整个存在方式，都不可避免地嵌入物理时间之中；而许多物理学家认为，物理时间本身又以热力学第二定律为根基。

图源：Jon Han

AI永不满足的胃口

大脑与计算机之间的对比鲜明，也发人深省。对数字计算机而言，时间单薄、只有一个维度，其热力学箭头被抽离了。计算只关乎状态转换：A变成B，0变成1。在图灵的经典计算形式中，重要的只有顺序，而不是底层物质载体的实际动态变化。每一种算法，都不过是一个该死的状态接着另一个状态。算法的两个步骤之间，也就是A与B之间，可以相隔一微秒，也可以相隔一百万年，它依然是同一种算法、同一次计算。

这种对时间的无视代价高昂。图灵所形式化的计算可以存在于时间之外，计算机本身却不能。当今AI对能量永不满足的胃口，很大程度上源于纠错的需求：必须让1保持为1，让0保持为0，因为即便是由无生命的沙子制成的硅芯片，也逃不过熵的触须。假装时间不存在，是一件昂贵的事。

这正是我认为算法会陷入无限循环，而有智能的动物几乎从不如此的关键原因。算法凝固在序列空间之中，至少在原则上，与熵的牵引相脱离。因此，总会有某些未曾预见、也无法预见的情形，让时间本身先于计算终结——或者更可能的是，电先耗尽了。

与计算机不同，我们是存在于时间中的生命：拥有身体，嵌入所处的世界，也嵌入其中的时间。我们永远不会被困在无限循环里，因为我们从未存在于时间之外。对我们这样的生物而言，持续不断、又受时间催迫的要求——尽量减少统计意义上的意外，并维持生理上的生存能力——就是最终的相关性筛选机制，也是我们几乎总能找到出路的原因。

我说“几乎总能”，是因为有许多重复行为确实带有某种循环的特征，尽管并非无限循环。这些例子包括额叶受损后的持续重复行为、强迫症、重度自闭症和抽动秽语综合征中的重复动作，乃至具有自我毁灭性的成瘾行为。从某种意义上说，这些例子反而支持了我的论点，因为它们反映的都是“正常”神经认知功能受到扰乱的情况。

如果这些想法方向正确，那么依赖图灵计算的AI系统，就将永远缺少某些植根于身体与时间的智能行为。如果这一点成立，那么人工通用智能——能够在任何认知任务中达到或超越人类表现的智能——就比它原本已经相当虚幻的前景，更像一个幻梦。

图源：Jon Han

有意识AI的迷思

新形式的AI，能否以比经典计算所允许的更丰富的方式，与时间的流动发生联系？这方面既有悠久的历史，也有令人兴奋的未来。最早的计算机，例如已有2000年历史、用于天文预测的安提基特拉机械（Antikythera mechanism），都是模拟式的，在连续时间中运行。而在历史的另一端，研究人员正在探索“有死计算”（mortal computation）等方法，允许计算过程依赖执行它的特定硬件：硬件“死亡”时，算法也随之消亡。这种方法顺应而非抵抗热力学第二定律带来的种种变化，有望大幅提高能效。此外，神经形态计算（neuromorphic computing）也有许多形式，它们在不同程度上模仿人脑的工作方式，与图灵那种不受时间影响的计算范式相比，更深地扎根于时间之中。

以动力系统为基础的智能研究路径，则完全避开计算，转而关注吸引子、相空间等概念；这些概念更加重视时间。这些研究路径可以追溯到AI发展的早期，以及历史上长期被忽视的控制论传统。控制论关注反馈与控制，而不是依靠算法进行符号处理。

这些路径大有可为，也还有许多新形式的AI等待发现。但我仍然怀疑，即便是嵌入时间的计算或控制论工程，也无法彻底摆脱无限循环的阴影，或完全实现生物系统所具备的那种开放、适应性强的智能。

我认为，这种智能不仅与时间密切相关，也与意识密切相关，甚至可能必然如此。至少，当你像我一样，将意识理解为一种与求生驱动力深深相连的过程时，情况就是这样。依照这种观点，意识体验把不同层面的过程整合起来，从代谢对熵的抵抗，一直到感知中可供行动与规划的种种机会，而且始终不可分割地嵌入时间的流动。真正起决定作用的，就是这种跨尺度整合。它或许让意识体验成为一种具有足够信用的通货，足以帮助我们摆脱几乎任何无限循环，并为任何框架问题重新设定框架。

其他一些观点也把意识与开放式智能联系起来，只是没有聚焦于时间与熵。20年前，认知科学家默里·沙纳汉（Murray Shanahan）受到意识的全局工作空间理论（global workspace theory）启发，提出意识能够以不同方式组合认知与知觉的要素，从而提供解决、或至少绕过框架问题所需的资源。理论生物学家伊娃·亚布隆卡（Eva Jablonka）和西蒙娜·金斯伯格（Simona Ginsburg）则认为，意识与她们所称的无限联结学习（unlimited associative learning）有关。这是一种特殊的学习形式，使生物能够不受预设边界限制地发现新解法。综合来看，一幅图景正在浮现：某些形式的智能，至少在生物身上，甚至可能在任何情境中，都需要意识。

我们也不妨简短地换个角度看。如果意识体验依赖于深深嵌入时间，也依赖于在一个受熵支配的宇宙中维持生命的代谢要求，那么，这将对AI的未来产生重大影响。具体而言，经典数字计算在时间上的单薄性——只是一个状态接着另一个状态，状态之间的时间间隔完全任意——似乎从根本上就与意识作为一种丰富动态过程的性质不相容。如果意识确实如表面看来那样，与物理时间不可分割，那么它就不可能仅仅是算法的产物。这又给“AI意识即将到来”的想法的棺材钉上了一颗钉子——如果还需要再钉一颗的话。

哲学家丹尼尔·丹尼特晚年喜欢谈论意识科学中的那些“难题”，借此与大卫·查默斯著名的意识“难问题”作一番诙谐对照。后者追问的是：意识究竟如何产生？而丹尼特所说的难题，全部关乎意识的功能——不是意识是什么，而是意识能做什么。用他的话说，一次意识体验发生了——“然后会发生什么？”

也许答案就在时间之中。意识或许是大自然让自己创造的智慧生命继续前行、让它们（几乎）总能找到出路的方式。

作者：Anil Seth

编译：EY

来源：https://bigthink.com/neuropsych/anil-seth-consciousness-time-perception/

关于作者 /AUTHOR

Anil Seth

英国神经科学家、科普作家，现任英国萨塞克斯大学认知与计算神经科学教授、萨塞克斯意识科学中心主任，并担任加拿大高等研究院（CIFAR）“大脑、心智与意识”项目联合主任。他的研究聚焦于意识的生物学基础，以及大脑如何形成知觉、自我感和主观体验，结合神经科学实验、计算建模与理论研究，探索我们如何感知世界、体验自身。他曾任《意识神经科学》（Neuroscience of Consciousness）创刊主编。代表作《意识机器》（Being You: A New Science of Consciousness）面向大众介绍意识研究，入选《经济学人》等媒体的年度好书榜单。

编辑推荐

阿尼尔·塞斯：有意识人工智能的神话

为什么意识更可能是生命的属性，而非计算的产物，以及为什么创造有意识、甚至看似有意识的人工智能并不是一个好主意。