马兆远：正视人工智能的“不能”

作者马兆远，1997年通过全国物理奥林匹克竞赛保送北京大学物理学院；25岁获得牛津大学物理学博士学位，师从“超冷原子之父”、英国皇家科学院院士Keith Burnett爵士；为中国空间站“天宫四号”设计了世界第一个空间冷原子实验平台。现任清华大学未来实验室首席研究员，数字化先进制造研究中心主任，英国谢菲尔德大学智能制造专业终身教授。著有《量子大唠嗑》《人工智能之不能》《世界的逻辑》。本文原载《中国科技报》2020年3月26日第七版

只有知道了人工智能的“不能”，对人工智能的了解才算全面。科学不是静止的结论，它的结论是演进变化的；科学工作者也不是秉持真理的圣徒，他们只是秉持着对宇宙和人的好奇心而探索的人类中的一分子。

知其不能而能，“学问之道无他，求其放心而已矣”。

一

会存在一个超级人工智能系统吗？人工智能会超越人吗？在《人工智能之不能》中我想分享我的答案和思考。

图 |《模仿游戏》

1936年，图灵在论文《论可计算函数和在可判定问题中的应用》写道：“按照我在本文中的设定，一个函数如果是机器可计算的，就是可计算函数……本文得出跟哥德尔的不完备定理极其一致的结论，尤其是，希尔伯特的可判定性问题是不可解问题。”

图灵所指的“机器”就是我们后来说的图灵机，图灵这篇著名的论文是对哥德尔不完备定理的诠释，他在文中指出了哪些问题是图灵机做不了的，以此来拓展哥德尔的不完备定理证明。今天的人工智能设备，无非就是这样那样的图灵机，没有例外。

回溯历史，竟然是人类先发现了图灵机做不了的事，而后才发明了它。但图灵机是如此的强大和成功，那些“它做不了的事情”很快就被淹没在故纸堆里。

我觉得我应该写一些文字，向被遗忘的哥德尔等人类历史上的伟大思考者致敬。和前一本我写作的《量子大唠嗑》一样，我想以此做一些科学启蒙的工作。而当我们能够回溯科学的常识、回溯认知的常识时，会发现可以有更加平和的理解世界的态度。

二

图 | 牛顿

近现代科学从牛顿开始，凡三百余年，大概经历了两个重要的阶段。科学的第一个阶段，虽然以牛顿力学为思想有了很多新的结论和方法，但一定意义上也还是旧的神学思想的延伸：存在一个客观实在的主体，无非是这个主体从“上帝”换成了“自然”。至今我们依然不知道这是否一定是对的或者是错的。这一阶段，科学努力地把理性主义贯穿到科学的整体中去。因此要建立稳定的、可模型化的科学体系。

脱离了神的信仰，并没有阻止科学的进步或者人们对真理的信仰，无非是哪个绝对真理的主张，可以是上帝，也可以是自然。人们相信有客观的，不由人所左右的规律存在于宇宙中。这一点不难理解，既然上帝不是为人类造了宇宙，那么人也没有理由成为宇宙的中心或者是宇宙中最重要的物种。但人们有种内心的信心，或者说信仰，虽然不是天生的宇宙中心，但我们可以认识宇宙就好。

这自然滋生了人类的再次伟大的信心，人定胜天，认识世界是无穷尽的。

如果19世纪末的科学家有这样的信心和勇气，是普遍的共识，并不值得惊讶。从牛顿之后的两百年已经取得了从自然到社会的重大进展，人们相信不仅自然可以认知，社会也可以，人心也可以。

在这个时候，这些知识也进入了中国，跟中国的传统文化产生了激烈的斗争而慢慢地进入普通人的生活。科学也成为一个至高无上的名词，代表了真理、正义。事实上它变成一个形容词，等价于正确和不可侵犯，很多与科学无关的学问，也冠上了科学并以此为荣。

问题是一旦标榜自己为真理，就事实上成为它致命的弱点。一个反例就让人们失去对它的信心，也让本来陈旧的东西本来该进入历史尘灰的东西死灰复燃。20世纪初，当“李约瑟之问”提出时，科学被或者捧杀，或者扬弃，艰难地在这个文明古国中开启启蒙之路。

三

但就在这个时候，科学迎来了第二次革命，进入第二个阶段。这次革命与上一次一样，似乎开始只是在科学界，但事实上，这一百年来，它的影响已经渗透出去，弥散到人类的整个认知领域。

然而，由于中国还在纠缠于第一阶段的科学革命和传统文化的争执中，或者是对第二次革命的科学浪潮视而不见，而生生错过了。

图 | 爱因斯坦

但这由不得你的缓慢而停下来等，一场轰轰烈烈的旧科学的革命在20世纪二三十年代又开始了。这场革命以爱因斯坦对量子力学的建立和反对，以哥德尔对经典数学的拥护和反对为起始点。这两个本应该学术观点对立的人成了莫逆之交，他们也从人类旷古烁今中呈现出来，他们俩自high，根本不在乎有别的人怎么看他们。

事实上，海森堡不确定性原理和哥德尔的不完备定理，都指向人类认知过程中的不确定性。虽然哥德尔本人对此毫不关心，甚至是他受爱因斯坦影响，对量子力学没有半点好感。

但只有这一片补上之后，我们才理解了科学为什么是这个样子。首先，科学不代表绝对真理。哥德尔不完备定理证明了任何一个有限的理论体系，都会存在无法被证明的问题，直觉上我们可以认知的问题，未必能够被理性证明或证伪。任何一个可以认为是真的判定，都必然有有限的前提，而这些前提无法证明其本身是正确的。

而可能最让女性读者开心的是，直觉无法从人类的认知中排除出去，甚至是在人类的认知中更重要的部分。这一切结论似乎跟人们从亚里士多德时代努力建立起来的理性主义、客观唯物主义不同，甚至有些离经叛道，但似乎这样的认知才更符合人类认识的真实感觉。

是的，对宇宙的认知到底是怎样的过程，宇宙是怎样的，我们至今没有一个好的结论，甚至这个结论本身就不会存在。因为这个结论也是宇宙的一部分。

四

我们曾经以为哥德尔不完备定理只是描述了一个小问题，但历史的经验告诉我们，一个伟大的理论的大厦，往往倾覆于一两个反例。而以哥德尔为精神领袖的图灵，把这个定理的适用范围放大了。当我们用图灵机来实现人工智能的任何一个算法的时候，并且图灵宣称每一个可描述算法都可以用图灵机来实现的时候，不完备定理如幽灵般地被扩展到了每一个可描述的问题背后。可以说，图灵机的应用有多广泛，哥德尔不完备所涵盖的范围就更加广泛。这一点，如同哥德尔第二不完备定理所讲，是无穷尽的。

图 |《美丽心灵》

需要指出的是，现在学校教授的课程，还停留在第一代所谓经典科学的范畴之内，即19世纪的科学理论。这样的理论与人的认知发生冲突的时候，第一是让以科学为新真理代言的人脸上难堪，进而愤怒，认为科学所不能解释的问题更多，而科学本身也不可靠。第二，是让本来就没有了解科学基本思想的人重新去抱残守缺，拿出老祖宗，如是说来他们觉得还是祖传的可靠。然而敌人的敌人未必是你的朋友，在20世纪二三十年代，现代科学又一次革命了，对这次革命，我们的中学教育、大学教育都几乎不去碰触，不讲，甚至是不知道。

回到人工智能本身，只有知道了人工智能的不能，对人工智能的了解才算全面。正如我们知道了理性的不能，对人类通过理性来认知世界才更全面。这似乎才是更贴近常识的科学，它不是静止的结论，它的结论是演进变化的。科学工作者也不是秉持真理的圣徒，他们只是秉持着对宇宙和人的奥秘的好奇心而探索的人类中的一份子。知其不能而能，“学问之道无他，求其放心而已矣”。

在《人工智能之不能》中我们谈到了认识原理：图灵机保证了所有我们可认识可描述的问题图灵机都能做到，但我们不能描述的问题，图灵机也做不到，但我们不能描述的问题，我们也不懂啊！因此，从理性逻辑角度讲，我们不比图灵机强太多，但它们也不会比我们强。但我们有直觉，至少这一点是不同的，无法用理性逻辑来取代。

当然，我们讨论的不仅是数学哲学。最近二三十年的物理学和数学进展，同样告诉更多的问题超越了图灵机，量子计算和计算复杂性问题，都超越了这一代图灵机的能力。我们对人类的直觉来源、感情的产生还远远不能够描述，好在科学本身只是日拱一卒的努力，不求包罗万象的万能理论，只是“进一寸有一寸的欢喜”的慢慢来，日子久了，定然就有长足的进步了。

《量子大唠嗑》和《人工智能之不能》这两本书写作了五年时间，我希望继续做胡适那一代人没有完成的科学启蒙——我们不仅要用科学武装我们的生产力，更要用科学武装我们的头脑。