AI是个好工具，但我们人不能偷懒——专访浙江大学求是特聘教授、长江学者廖备水

2006年，廖备水在浙江大学计算机学院人工智能研究所获得了博士学位。那个年代，他的同学大多去了企业，进入当时刚刚兴起的一批科技公司。他却调转方向，走进了哲学系的博士后工作站。现在，他同时是浙江大学哲学学院和计算机学院的博士生导师，在逻辑学与人工智能之间架起了桥梁。

在「九千光年和TA的朋友们」播客中，都市快报编委陈欣文与浙江大学求是特聘教授、长江学者廖备水，从逻辑学、人工智能哲学和机器伦理的交叉视角，展开了一场关于“AI的本质与边界”的深度对谈。以下是本次对谈的精华实录。

以下是本次对谈的精华实录。

人工智能的源头就是哲学

九千光年：您从计算机转攻哲学，当时是怎么想的？哲学和人工智能到底什么关系？

廖备水：其实哲学本身就是人工智能的基础。1956年达特茅斯会议提出“人工智能”这个词之前，学界已经争论了很久：什么是智能？什么是计算？心灵是不是可以表达成计算？这些都是哲学问题。

图灵为什么提出图灵测试？就是因为他没法从理论上说清楚什么是智能，只好用行为来定义——如果人分不清对面是人还是机器，那机器就算有智能。

后面普特南提出了“功能主义”：人会痛，章鱼也会痛，但它们的神经结构完全不同。就像飞机和鸟都会飞，但飞行方式不一样。这就引出一个问题——智能是不是可以脱离特定生物机制而存在？

所以，人工智能的源头就是哲学。学科分化是为了让我们在某个领域做得更深，但一定需要有人能跨学科，把不同的东西融会贯通。哲学研究的是“道”，把道搞清楚了，方法只是下位的东西。

九千光年：您提出机器具有“弱主体性”，为什么是“弱”？

廖备水：人在理解世界时，有三个层面：思想概念、语言符号、现实世界。人的心智能把这三个统合得很好——你知道概念对应什么语言，也知道语言指称现实中的什么东西。

但人工智能只在其中一个角上，就是“语言和符号”这一角。它既没有概念和思想，也无法直接指称世界。早期的AI系统，是靠工程师理解用户需求，再转译成符号——机器本身跟世界没有直接连接。

所以AI会有“幻觉”，因为它不知道什么是真的。它只是在符号层面做概率运算。这就带来一个问题：当AI进入开放世界，场景不停变化，它自己并没有意识去判断对错——那谁来负责？

机器没法为自己的行为负责，但每台机器背后都有人——生产商、用户、行人、政府，这些人共同构成了利益相关方。机器能按照目标导向做规划，但它的行为又受到背后人类的约束。这种介于“有自主性”和“完全被控制”之间的状态，我把它叫作“弱主体性”。

九千光年：那是不是说，AI现在就是个不负责任的工具？

廖备水：也不能这么说，因为每台机器背后都有人，负责任的是人。

幻觉在本质上无法消除

九千光年：AI的“思考方式”和人类有什么本质区别？

廖备水：最大的区别还是我刚才说的“符号三角”问题。AI在符号层面做运算，它没有概念和思想，也没有对世界的指称——它没法摆事实。

我们人的解释有两个基本要素：一是事实依据，二是逻辑关系。AI有什么？它只有从大数据中学习来的内容输出，但它跟世界没有连接。所以它的“解释”要加引号——它不是真正的解释。

你说未来具身智能有了视觉、触觉，能不能解决这个问题？它只能部分改善，但本质上还是那个问题：模型训练完就变成一个静态的东西，它只能在概率分布内做判断。它没法像人一样，实时去理解世界。

九千光年：那幻觉能彻底消除吗？

廖备水：幻觉在本质上是不可能彻底消除的。但从功能上，它可以做到几乎让你忽略它的存在。就像飞机不用长得像鸟，只要能飞就行。AI也一样，它可以在很多场景下做得足够好，但这不意味着它突破了本质上的瓶颈。

九千光年：AI会产生意识吗？

廖备水：看你怎么定义意识。如果意识包含感觉、体验，我认为它没有。它可以模仿情感，但没有情感体验。现在的人工智能走的根本不是那条路——所有的东西都是基于计算的。

要给AI足够的边界和护栏

九千光年：但为什么哈萨比斯、比尔·盖茨这些最前沿的人，会担心AI失控？

廖备水：他们的担心不是没有道理。AI本身可以没有体验感，但它造成的影响可能非常大。因为AI不是某个人造的，它是全球很多人共同创造的。当这个算法变得非常强大以后，它的决策存在不确定性，可能超出任何个人或团体的完全掌控。

举个例子：如果家里的机器人是“目标导向”的，你给它设定的目标是“让主人吃得更好”，但你没给它足够的边界和护栏——它可能会把你家的猫杀了给你吃，因为它觉得你喜欢吃猫肉。它没有人的意识，但它会做这样的事。所以产品设计时，安全检测必须到位。

九千光年：AI伦理是个大问题，不同文化有不同的价值观，AI的伦理怎么对齐？

廖备水：人类有共同的底线价值，但不同文化的偏好确实不一样。有学者在全球做过“道德机器”实验，不同种族对生命、财产的排序是不同的——有的更保护老人，有的更保护妇女或儿童。

大模型本身是个基座，它把所有的数据都拿来训练，本身没有做选择。但我们国内的大模型可以在宏观指导下体现我们的价值观。不同的模型输出肯定有差异。

至于电车难题这类问题——无人驾驶是保乘客还是保路人？这是系统性的问题。人的决策是case by case的，但机器的算法一旦定了，每次都是一样的。这个问题最终需要一个由政府、企业、公众组成的委员会来定规则。

九千光年：下一代孩子该怎么培养？要不要限制他们用AI？

廖备水：教育的本质是让人自我完善，而不是灌输知识。早期教育还是要打好基础——识字、阅读理解、算术，这些基本能力必须练。大模型让很多人偷懒，把本来该走的路省掉了。

所以我觉得，在孩子还没有自我管理能力的时候，还是要限制他用AI。大学生用AI写论文也是一样——如果你能管理好自己不偷懒，用用没关系；如果偷懒，那就出问题了。

但思辨能力、创新能力、交流能力、共情能力，这些是AI替代不了的。哲学背景的人为什么好找工作？因为在这个时代，思辨判断能力非常核心——能捕捉现象背后的本质问题，能理清概念间的关系，能做出好的推理和决策。

AI是个好工具，但人不能偷懒

九千光年：您会怎么用大模型？

廖备水：我天天在用。第一是搜索和整理信息，查阅文献比以前快得多。第二是跟它讨论想法——大模型有一个绵密的神经网络，能看到人类看不到的“关系”，就像一个探测器。但关键是我来判断这个“关系”有没有意义，有意义我就拿来用。

它是个好工具，但我们人不能偷懒。你问它100个问题，可能只有几个是有用的。而且它确实有“讨好型人格”——你抛出一个观点，它会顺着你说。所以你可以引导它反驳，但你要清楚地知道，它说的东西不一定真。

九千光年：文科在AI时代还有价值吗？

廖备水：文科叫humanities，研究的是人的思想、艺术、文学。这些东西在生存无忧的时候，是非常有魅力的。AI把很多重复性工作自动化了，反而把人解放出来去做更高层次的分析和创造——从这个角度看，文科的价值不但没有降低，反而更突出了。

但“文科很重要”和“社会需要多少文科岗位”是两个问题。就业市场是现实的，岗位少，招生就少。不过这不妨碍哲学背景的人去人工智能企业——我们很多学生现在就是去AI公司做伦理、做产品、做分析。

九千光年：您对下一代大语言模型有什么期待？

廖备水：我希望它能把人类思维的模式加进去。现在的大模型是基于神经网络的，如果能和符号主义方法结合——把基于人类认知和语言表达的东西融合进去，它的可用性和可靠性都会更好。

从伦理角度，我希望它是一个健康的模型——既能讲真话，又能守住底线。不是啥话都不说，也不是啥话都说。这需要更好的“道德对齐”。

九千光年：杭州正在打造“人工智能第一城”，您有什么建议？

廖备水：杭州在创新、企业孵化、政策支持方面都做得很好。但我认为需要更长远地思考——15年后，整个产业会是什么形态？我们的强项在哪里？哪些是支柱？这些需要系统性的梳理。

关键还是人才。杭州有浙大、西湖大学，还有正在建设的钱塘大学等研究型大学，以及浙江工业大学、杭州电子科技大学等一批科研实力突出的高校，人才培养的生态已经很好。加上杭州的创新创业氛围，我对杭州人工智能的未来是看好的，相信是大有前景。

如果想完整收听本次对谈，欢迎移步「小宇宙」App，关注「九千光年和TA的朋友们」。「AI时代，哲学家在思考什么」系列专访到这里就结束了，接下来，九千光年将陆续对话科学家和企业家朋友，敬请期待。

欢迎前往小宇宙订阅✌️

文字 | 邱雨茜

编辑 | 邱雨茜

审核 | 梁应杰 陈欣文

为什么科技大厂开始招哲学毕业生？

一颗种子的历险记：去太空进修后再去沙漠上班

当数学家与AI剑拔弩张，浙大数高院和之江实验室想要用AI打开“数学新世界”

点喜欢