刘钝×余晨×余盛峰：AI时代如何捍卫人的自由？

自2022年ChatGPT掀起人工智能革命的浪潮以来，AI技术正以惊人的速度渗透到我们的工作、生活甚至思维方式中。文心一言、豆包、元宝、Deepseek等各种AI产品接踵而来，我们正在进入一个与AI共存的时代。然而，随着AI能力的不断增强，人类的角色也面临前所未有的挑战：如果AI能绘画、写作、分析、编程，甚至辅助管理决策，那么人类如何保持自身的独特性？我们的创造力、情感、道德判断，还有独立思考的能力，是否会被AI取代或弱化？

当客观世界不存在时，哲学何为？20世纪的量子物理革命动摇了“客观性”的基础，而量子物理的发展直接导致了人工智能浪潮的出现，当我们分不清真实与虚拟，要如何思考世界和自己的存在呢？真实性的丧失导致了不可避免的精神焦虑。要透彻理解今天的智能浪潮，需要回到科学发展的历史，要应对科技进步对人类主体性带来的挑战，就要从科学出发重建哲学思考。在AI技术重构认知范式的当下，如何以哲学思考锚定人类存在的意义？如何通过科学方法论捍卫思想的自由？

近日，科学史家、中国科学院自然科学史研究所研究员刘钝，易宝支付联合创始人、总裁余晨和北京航空航天大学高研院/法学院副教授余盛峰展开了一场对谈，结合金观涛教授《我的哲学探索》与《控制论与科学方法论》两本新书，探讨“AI时代如何捍卫人的自由”。

以下为对谈精彩内容摘编。

思想渊源：金观涛的思想与AI时代的呼应

余盛峰：

在过去很长一段时间里，金观涛老师在整个人文思想领域有非常广泛的影响力。近些年来，随着人工智能新科技等现象的兴起，我们今天回过头来看，金老师的很多研究，他的思想再次爆发出很强的穿透力，显现出深刻的影响力。

目前关于人工智能的讨论非常热闹，但是很多讨论有浮躁的、虚假的、泡沫的成分，非常缺乏理论性、哲学性、思想性，以及从历史深度视角进行透视的研究，今天的分享能够补足在目前讨论中比较缺失的一些方面。

先请两位对这两本书（《我的哲学探索》《控制论与科学方法论》），以及与金观涛老师的交集，做一些分享。

余晨：

我最开始读金老师的书还是在上学的时候，这是当年影响我们一代人的书。这两本书的写作和出版前后穿越半个世纪，至今还在发挥影响力。

20世纪80年代是一个充满理想色彩的年代，经常被称为中国历史上的第二次启蒙时期。当时刚刚改革开放，中国与世界重新接轨，在此之前，中国人刚刚度过了一个物质和精神生活都极度贫瘠的时代，当第一次引介了那么多海外思潮，可以想象这带来的震撼。

金老师主要的研究工作就是通过控制论跟系统论来改造辩证法，为当时中国的社会发展提供了一种理论的正当性的支持，这是一种去意识形态化的理论体系，也是对接中国与世界的一个桥梁，而且系统科学跟控制论都是跨学科的，它是一种跨学科的探索。

《我的哲学探索》《控制论与科学方法论》这两本书的哲学精神，在20世纪80年代影响了中国的一代人。直至今天的人工智能时代，在经过了近半个世纪的时间以后，仍然发挥着其跨越时代的影响力，有着深刻的启示意义。

刘钝：

金老师大胆地引用“老三论”（信息论、控制论、系统论），特别是用控制论与系统论来研究中国古代社会的“超稳定结构”，得出一个言之有据而又产生了深远影响的结论，这一理论的提出在当时是具有震撼性的。

他还在“老三论”里面加进了某些“新三论”如突变论的思想，完成了这本《控制论与科学方法论》。此书开篇就讲到控制论的科学来源有三个。第一个是数学、物理，特别是在牛顿之后，19世纪以来热力学和统计力学的出现，以及20世纪初量子力学的出现。第二个是生物学，从达尔文的演化论开始一直到20世纪以来的变化。第三个是脑神经科学，20世纪二三十年代才开始在西方出现雏形。20世纪40年代末这三股资源合流出现了控制论。

维纳本身是个数学家，在他之前没有控制论这一说法。他在二战期间参加了对火炮控制的研究，运用数学方法解决工程问题与社会问题，写出了《控制论》一书。这本书的副标题是“关于在动物和机器中控制和通信的科学”，这就无形中透露了这门科学的哲学起源，从柏拉图、亚里士多德开始，一直到逻辑实证主义为止，哲学中最烧脑的核心议题，就是心物二分问题。你们看，动物、人和机器放在一起，主体跟客体的界限开始变得模糊了。在这个主客难分、物我莫辨的时代，今天我们讨论人工智能，追溯控制论的源流和金老师的这两本书是非常恰当的。

技术逻辑：从理性主义到经验主义

余盛峰：

人工智能背后的思想源头或者说理论基础可以追溯到维纳的《控制论》。对于专业的研究者来说，听到这样一个命题马上就能够理解背后的机理，但是对于绝大多数普通读者来说理解起来会有点困难。

人工智能的技术原理到底是什么？为何它和控制论内在的思想具有某种联系？

余晨：

人工智能的历史从1956年达特茅斯会议开始，经历了几次寒冬、几次热潮。

早期的符号主义想要解决的问题是：怎样重复人类思考的过程。认为一定可以推出一套规则，按照这个规则让机器来实现，这是自上而下的想法，可以把它看作理性主义。

显然这条路走不通，所以在20世纪70年代，人工智能进入寒冬之后，80年代又出现了所谓的专家系统。专家系统是让机器做特定领域的专家，把特定领域的事实、知识工程、规则编码，让机器重复人类思考的问题。虽然专家系统比起早期的符号系统有了更广泛的商业应用，但是没办法规模化，也没办法灵活地适应市场需求，所以人工智能又进入了死胡同，走进另一个寒冬。

直到20世纪90年代出现机器学习、深度神经网络，然后到了2010年代这一波人工智能。现在这一套人工智能的思路和以前是不一样的，以前是规则驱动的，今天都是数据驱动的。可以把这种数据驱动的人工智能看作经验主义，即怎样定位人脑。原来的逻辑主义跟理性主义认为人就是一个逻辑机器，但是经验主义认为人是一个数据的模式识别器，人脑有大量的经验数据，然后会形成模式识别，判断出最有可能的数据。

今天的人工智能，不管是生成式人工智能还是之前的图像识别之类，全是靠数据驱动的，本质上可以把它想象成一个统计模型，所以这一波人工智能的成功跟早期的人工智能最大的区别，从哲学的角度来讲，可以看作是经验主义对理性主义的胜利。

至于和控制论的关系，可以把机器学习的过程看成一个广义的系统，这是一个负反馈的机制。我们做数据拟合，要找到一个模型拟合数据，有新的数据就可以有最大的概率判断准。拟合的过程最重要的算法就是“梯度下降”，可以将它想成一个反馈的过程——调整参数的过程就是一个负反馈的机制，让指标值收得越来越小。在控制论里，将这称为“内稳态”，可以将机器学习想成“代价函数”（用于衡量模型预测结果与目标之间“误差”或“损失”的数学函数，为模型提供明确的优化方向，即“最小化代价”）的最小值，在逻辑上都是等价的。从广义上来讲，控制论研究的所有有自适应行为、有复杂行为的系统背后是相通的逻辑。不管是一个生物，还是复杂的机械（如火炮、导弹等），或是人工智能系统背后都有一套负反馈机制，或者有内稳态的目标函数机制，实际上很多东西跟人工智能之间是有一一对应关系的，可以做一个简单的类比，这是它们背后相通的逻辑。

余盛峰：

前面谈到人工智能的两条路径，我觉得非常有穿透力。在整个科学发展的历程中，理性主义和经验主义这两条路径，是不是慢慢显现出类似的规律？这两条路径处于始终相互竞争、相互促进的发展中吗？

刘钝：

从大历史的角度来看，人类的技术进步确实太快，人脑的进化和制度的进步远远跟不上，那怎么办呢？只有用理性克服，要借助哲学思辨，金老师的著作的意义就在这里。

科学史学科中的一个核心命题是“科学革命”，一般公认的是两次。第一次是17到18世纪，从哥白尼到牛顿，建立了把天上地下的规律都统一起来的牛顿力学，三个运动定律加上万有引力定律，用数学的方式完整表达出来了。第二次是20世纪初，量子力学和相对论的诞生。

经常有人谈到第三次科学革命，跟AI有关系，这个前景还不甚明朗。与其盯着科学革命，不如从技术的角度看人类是怎么走过来的。

从旧石器到新石器是一次重大的技术革命，从打砸石器到精研磨石器是非常了不起的技术革命。有了它，我们的祖先才可以做钩钓鱼，做针缝制兽皮衣服，才能做出更精细的工具来从事农业生产，才能做石斧石刀跟野兽、敌对部落战斗，人类由此才能发展进入农业社会。

农业的出现是是第二次技术革命。石器时代的技术进步是以万年计的，从旧石器时代到新石器时代经过了几万年时间，到农业社会，技术进步就以千年计。我在20世纪60年代末下乡插队，从城里的学生娃变成内蒙古的“庄户人”，发现农民们耕地、播种和收获用的工具与汉画像砖没有两样。

第三次技术革命就是工业革命，一般认为从英国开始，在18世纪中叶从英格兰的西北部开始，经过100多年时间，连俄国、日本甚至大洋彼岸的美国，工业化体系都已经建立起来了，这个技术进步是以百年甚至十年计的，先是用蒸汽机驱动，然后用电力驱动。

然后就到了信息革命。摩尔定律提出的时候，当初已经觉得很不得了了，按照指数规律进步。但是现在新一波的AI技术、人工智能出现后，简直不知道明天会发生什么事情。

路径掣肘：数据主义背后的真实性危机

余盛峰：

刘老师提到一个非常有意思的论断，这正是2024年诺贝尔物理学奖得主辛顿说的，“人类当下的局面是，旧石器时代的大脑、中世纪的制度与类神的技术这三者在一起就出现了一个非常矛盾的组合体。”

从原来的理性主义或者符号主义，到今天的数据主义，人工智能技术有了路径发展的演变。那么，基于大数据、算力和算法的一个相对单一化的发展模式，这样的技术路径本身，是不是在思想和理论层面有它的局限性？从科学史的角度或者从人类思想发展的角度，这种基于海量数据推动的技术发展模式，是否存在什么问题？

余晨：

前面谈到人工智能革命某种意义上可以看作是经验主义对理性主义的胜利，听上去是在夸经验主义，其实不完全是。科学既不是演绎也不是归纳，科学是基于经验数据提出假设。爱因斯坦之所以伟大，是因为他不是经验的奴隶，他能够超越经验、超越数据、超越实验，从理性的角度大胆假设，因此从某种意义上来讲爱因斯坦是一个理性主义者。

真正伟大的东西一定不会是唯一的一种，它一定是在两者之间找到平衡。回到科学探索也是一样，科学之所以伟大，是因为理论不是数据和实验的奴隶，科学不只是被动地去解释那些数据，而是能够跳跃式地提出伟大的假设。

历史上的物理学革命都是通过伟大的假设，真正能够超越数据和实验去提出假设，才会有科学革命。所以，我认为一个理想的状态一定是两者相结合的，而不是只局限于所谓的数据驱动与经验主义。

我们今天看到的人工智能，你可以讲所有的大模型本质上都是幻觉，因为它本质上都是一个概率模型，只不过大多数时候这个概率是有用的，你觉得很了不起，但是实际上它是不了解这个世界的，只不过在概率上可以做到拟合得基本不错。举个例子，比如用ChatGPT、Midjourney等画画、做室内设计，经常会发现，它设计的室内楼梯图是歪的，在我们真实的三维世界里不可能出现那样的情况，因为大模型看的不是三维的模型，它看的只是平面模型的概率统计，拟合出看起来像模像样室内设计的图，在大模型眼里，是没有一个它真正能够理解的跟真实世界匹配的三维模型的，这是经验主义最大的局限。

这也是为什么今天可以肯定地说，人工智能是没有意识的，它做的只是数据匹配，它离我们想要的东西差得太远了，所以未来人工智能真的想发展，还要结合不同的路径。

本体辩论：AI能否拥有意识成为主体

提问：

现在大家认为AI是一个风口，都想趁着这个风口飞得比较高。目前对于AI的定义有什么样的思考？

科幻小说家阿西莫夫曾在其作品中提出“机器人三定律”，这是关于人工智能伦理和机器与人类关系的重要讨论。无论人工智能为人类服务，成为人类感官的一个延伸，还是将来有可能演化出思维或者智能，成为一个主体，对于这方面的哲学思考大概是怎么样的？到底能不能把人工智能视作一个人类之外的主体？

余晨：

历史上，每当出现一个新技术都会带来社会的反动，像当年工业革命的时候，有卢德派去砸珍妮纺织机，因为这个新技术出来会替代掉很多旧的工作岗位，但是同时也会创造很多新的工作岗位，所以在历史上每次有新技术出现的时候，都会带来深远的社会动荡。但是随着时间的推移，我们一般研究技术史都会讲技术本身是中性的，它没有价值，或者价值是中性的，技术只是人性的放大器，最后取决于人怎么使用这个技术。回顾历史，每一次新技术带来的社会危机慢慢都会被化解掉。

所以今天有一派认为，人工智能带来的危机同样会被化解掉，虽然人工智能可能会取代90%的人的工作，就像《人类简史》的作者赫拉利讲的，90%以上的人未来会成为“无用阶级”。但它也会给我们带来新的工作、新的意义。像以前计算机出现了，我们不需要再加减乘除都自己算了，不用打算盘了，人类趋向于高阶能力，把低阶的能力都外包给机器。

但人工智能技术跟以前的技术不一样的地方是，大多数学者会认为人工智能有某种终极性。归纳法不会永远奏效，以前的危机都可以化解，不代表人工智能带来的危机就可以化解，为什么？因为以前的机器延展的都是我们的肉体，而人工智能延展的是我们的大脑。人作为一种动物，我们与其他动物最本质的区别在于大脑，不在于肉体。

举个例子，医学在不断进步，人类可以完成各种各样器官移植的手术，可以把肝换掉、胃换掉、心脏换掉，但是当有一天医学发展到可以把大脑换掉的时候，它就不是进步了，它是把你消灭掉了，因为你脑子没了。你换个肝你还是你，你换个心脏你还是你，但是换掉你脑子的时候，你就不是你了。

所以为什么今天很多人对AI这么担忧，至少从理论上来讲它有某种终极性，因为它可能从源头上来讲真的有可能把我们“干掉”。即便在短期之内，它不会把我们干掉，也可能会引发很大的社会动荡。

人工智能会带来两个最大的威胁。

第一是真实性的丧失。因为今天弄一个假消息、假视频、假图像太容易了，而且人在社交媒体上越来越分化。原来看新闻联播的时候，所有人能拉齐到一条线上。而今天所有的人都是“物以类聚，人以群分”。我们讲事实是事实，观念是观念，大家观念可以不一样，事实总是要拉齐的。但现在在人工智能新媒体的时代，我们连事实都拉不齐，很多人有分歧，这是一个巨大的威胁。

第二个是社会的极端分化。工业时代人跟人之间的能力差异是正态分布，是一个钟型曲线，流水线上熟练的工人和最笨的工人，他们的产出最多差两到三倍。但是一个好的程序员的生产力可能是一个普通程序员的10倍以上，因为软件没有硬件的物理限制，人的能力可以被无限放大。

在人工智能时代更是这样，一个人就可以创造一个价值10亿美元的公司，这不是一个正态分布了，而是个幂律分布，1%的人可能分享了99%的财富。

关于未来怎么看待人工智能，它是不是会有主体性？金老师在《我的哲学探索》里已经明确地讲了，按照今天人工智能发展的路径，人工智能肯定不会有主体，不会有意识，也就决定了它不会成为道德的主体甚至不会成为道德的对象。但是这并不意味着人工智能不会给我们带来上述那些危机，因为核弹也没有主体，没有意识，但同样可以灭掉人类。所以人工智能有没有主体，跟它能不能灭掉我们，是两个概念。人工智能可能完全只是一个自己运行的机制，但是它同样存在着能够把人类灭掉的危险性。

智能是第三人称的概念，只要输入跟输出能够满足某些条件，就能有适应性的行为，有复杂性的行为，就认为它有智能，因为它完全是一个功能性的东西，是从外在看的，是黑箱的。但是意识是第一人称的，是从里面看的，一定要是白箱的。

我认为今天的ChatGPT肯定可以通过图灵测试，甚至它回答的比人还好，但这是一个行为主义的回答，并不能确定后面真的是一个人。

从心理学和神经科学上来看，我们今天的知识还远远不够了解意识是什么，但是我们大概知道意识不是什么，所以我们可以几乎坚定地说今天的人工智能没有意识，它也不会有主体。因为意识是主体的前提，所以按照今天的路径，人工智能的技术再发展也不会出现主体性，它不会成为道德的对象和主体。但是这不代表它不会给我们带来危害，因此对人工智能的监管还需要更谨慎。

价值重构：AI时代如何捍卫人的自由？

余盛峰：

信息是一种权力，知识也是权力，数据也是权力，算法也是某种权力，它深刻地影响到整个社会结构和人际交往，还包括方方面面的利益。今天很多人工智能技术已经广泛应用在决策领域，甚至是很多公共决策领域。在这个过程中，目前形成了两种思潮，一个是加速主义，另外一个是对齐主义。

加速主义认为我们应该进一步推动技术发展和人工智能的发展，解决这期间面临的一切问题，一切问题都会在发展过程中自然地被解决掉。对齐主义认为应该回归到人类的价值，人类主体性的价值就是人本主义，比如阿西莫夫所说的机器人三定律，一切要围绕人的自由平等价值作为依归。

在这两派之间，有时候他们很多的讨论又会陷入到非此即彼的轨道上去，一派认为技术应该凌驾于人文，而一些比较传统的学者不太懂技术，或者说不管我们愿不愿意承认和接纳，技术可能都会以所有人都难以逃避的趋势去发展。正如凯文·凯利说的，我们最重要的思考方式不是应该怎样规制技术，而是首先需要问技术本身想要什么，它可能本身会产生一种自主性，甚至它也会产生一种自主意识。它的自我演化逻辑是什么？如果我们不把这个问题想清楚，只是一厢情愿地回归到传统的启蒙主义或者人本主义的价值，可能根本没有办法成功。

所以，我们要在人和机器之间重建一种生态关系，一种适应于新的时代发展的关系，这是非常重要的理论命题。

余晨：

这是两种体系之间的张力跟对话的问题。我们用二分的方式去理解世界的模型，一个是科学，一个是人文。今天很多现代性的困惑，其实都来自于我们对真实性的混淆。

维特根斯坦讲，语言的边界就是世界的边界。而很多概念的含混是由语言的含混带来的，金老师区别了三种真实性：科学真实、社会真实和个体真实。在科学真实里面，有物理真实和逻辑真实，这些真实都是不一样的。因为我们语言是含混的，都管它叫“真”。

讲一个例子，2024年诺贝尔物理学奖是发给了辛顿，辛顿研究人工智能，用了很多物理模型。这一方面代表了计算机科学一个巨大的里程碑，但是另一方面，有一个让人不安的因素，即混淆了两种真实性。

因为在科学真实里，物理真实和数学真实是两回事。但是我们看到过去这些年的发展，科学真实在不断地膨胀，侵蚀了人文意义上的真实。现代商品社会是完全讲效用的，完全理性化的设计，所有东西都是效用最大化，它完全是自己运转的一个机器。所以过去这两个世纪的发展，我们看到的都是科学真实不断扩张，侵蚀了人文真实。

进一步讲，在科学真实的内部，会看到数学真实在扩张，它又会侵蚀物理真实和经验真实。严格来讲数学不属于科学，因为数学跟经验世界没关系，科学是经验的，但是数学是先验的。在哈利·波特的世界里，可以违反物理规律，引力常数可以跟我们的世界不一样，可以让哈利·波特骑着扫帚飞起来，也可以违反化学规律，可以有炼金术，可以违反生物规律，让人起死回生。但是你在哈利·波特的世界里，不能违反数学规律，1+1不能等于3，为什么？因为数学是超越经验的，它在所有逻辑可能性的世界里都是成立的。

那么为什么这次诺贝尔物理学奖发给辛顿？计算机跟物理完全是两门学科，即使有相关的东西也是统计力学，但是统计力学严格来讲不是真正意义上的物理，因为“熵”这个概念不只是对物理世界适用，对元宇宙也是适用的，对我们想象出来的世界也是适用的，它本质上是一个数学模型，所以这个物理学奖发给辛顿的计算机成就，对计算机科学来说是一个好事情。但它恰恰也是一个引起我们不安的事件。因为即使在科学领域，大家也分不清物理真实跟数学真实了，我们想象出来的那个框架性的逻辑性的东西正在侵蚀整个世界。

从诺贝尔物理学奖，到特朗普上台，这背后所有的问题都有一个一致的模型——都起源于我们对两种真实性的混淆，我们搞不清是哪些东西给我们意义，又是哪些东西给我们理性和能力。怎么样在这两者之间找到平衡，可能才是人类未来的出路。

刘钝：

金老师说把真实性的丧失归因于后现代主义思潮的泛滥，我想借这个话题谈谈现代、后现代以及真实性的问题。所谓真实性，也可以理解为确定性，它是随着现代社会、现代国家的兴起同步出现的。17世纪的《威斯特伐利亚和约》，奠定了欧洲现代国家的基本秩序。在那之前，封建诸侯之间为了领土或继承权不断打仗，这个和约成为现代民族国家出现的标志，欧洲诸侯之间的疆域得以划分，政治上变得相对稳定。20世纪的两次世界大战打破了宁静与繁荣，金老师也曾把后现代主义思潮的起源归因于世界大战。

最直观的例子是艺术。文艺复兴以前，我们看欧洲的祭坛画、壁画，那些人物很呆板。文艺复兴以来的艺术家吸收了科学成果，绘画、雕塑等造型艺术得以突飞猛进。因为有了透视法，可以尽可能真实地在二维平面呈现三维世界；因为懂得解剖学，艺术家了解人的骨骼与肌肉，可以更逼真地表现人体以及由面部表情和肢体语言体现出的内心世界；由于光学与色彩学的发展，画面才更加绚丽生动，更“像”。这是与科学同步前进的现代艺术，艺术界称之为“现代艺术”的那些不同流派，依我看应该统称为“后现代艺术”。

物理学上也是一样，从牛顿开始，人们认为已经可以认识真实的客观世界，即上帝藉由数学建立的世界秩序是可以认识的；然而20世纪初新物理学出现，使得牛顿以来人们深信不疑的有关时间、空间、物质、能量以及因果性都发生颠覆。这里清楚不过地呈现了一条“未知—确定—不确定”的脉络。

就是大家认为最严格、最具确定性的数学领域，同样可以发现类似的脉络。从欧几里得一直到希尔伯特，都希望为数学奠定一个严密的基础，对此信心满满。但是没想到在20世纪30年代被哥德尔捅了一个大窟窿，简单说就是完备性和自洽性的冲突，鱼和熊掌不可兼得。

社会发展上也是一样，马克思知道社会是怎么发展的，从原始社会、奴隶社会、封建社会，到资本主义社会、社会主义社会，最后达到世界大同的共产主义社会。西方有一个叫福山的日籍美国人写了《历史的终结》这本书，他也断言社会怎么发展，断言社会发展有个终点，就是自由繁荣的资本主义。马克思与福山都是确定论者，他们的思想与现代社会的出现密切相关。福山的书际逢20世纪末世界政治格局发生剧变的动荡年代，一时大火，他也成了西方世界一个顶尖的思想家。然而仅仅十余年后，他的理论就解释不了现实了，美国发生了“9.11”事件，接踵而来还有金融危机，以及世界各地持续不断的宗教与种族冲突，一直发展到极为严重的局部战争，乃至民粹主义的高涨，最强大的国家里诞生出一位民选的奇葩总统。人类社会演化到一个后现代时代。

文明现在就面临这么一个不确定的世界，一个真假难分的时代，原因之一就是后现代主义思潮的兴起。所以金观涛教授提出真实性哲学，希望尝试在后现代猖獗一时或者说狂暴风潮之后，在21世纪余下的时光里，人类是不是可以回归理性？用什么方法回归理性呢？很多人都在探索，我们不妨叫做超越后现代，从现代、后现代到超后现代，黑格尔的否定之否定。金老师说真正的哲学探索应该是用全新的科学方法去考察那些古老的哲学命题，这就是他研究真实性哲学的动机，这是一个雄心勃勃的计划，依我看来也是一个蛮有希望的出路。

点击了解更多

金观涛哲学著作

-End-

2025.5.30

编辑：闪闪 | 审核：孙小悠