好AI、坏AI？最好的主人会以奴隶的面目出现｜刘擎×张笑宇×维舟

面对AI的挑战，人性的独特光芒究竟何在？

近日，中信出版集团联合建投书局，邀请华东师范大学紫江特聘教授刘擎，亚洲图书奖得主、《AI文明史·前史》作者张笑宇，作家、书评人维舟，共同探寻那些真正重要的问题：在智能革命重塑世界的今天，我们该如何理解文明、定义人性、构想未来？

以下是对谈内容精编，授权首发。

01

好AI、坏AI?最好的主人会以奴隶的面目出现

维舟：很早之前看科幻电影，人类谈到未来是带有希望的，认为技术可以给我们带来更美好的未来。但慢慢地科幻电影的主题开始出现变化，其中描绘的未来是阴郁的，甚至是非常可怕的未来，比如一个不知道怎么回事的科学家，在实验室里面就捣鼓出来一个怪物，会毁灭我们人类。

现在大家探讨AI的未来，实际上也涉及我们人类的未来。很多人说AI会给我们带来巨大的变化，是革新性的；更多人感受到的是AI带来的恐惧，这个恐惧是实实在在的。包括《AI文明史·前史》这本书里提到，99%的人类将来可能会被AI替代。当我们看到AI带来一些变化的时候，怎么能够说服大家这是一件好事？

张笑宇：无论你说不说服，你觉得它是不是好事，它都会来。

首先，做历史的都知道，未来太难预测了。你能预测的东西，是基于非常长的因果关系，这个长因果关系一般是基于数学和物理，还有生物原理。比如我们理解中国历史的时候会去找一个数学关系，叫马尔萨斯陷阱，因为粮食的增长是线性的，人口的增长是指数的，线性增长和指数增长之间一定有一个差值，当这个差值出现的时候，你就知道会发生什么。你只是不知道来的到底是张献忠，还是李自成，你知道这种事肯定会发生。所以确定性的部分你用数学、物理和生物的角度去理解，不确定的部分你就留给偶然性，因为偶然在人类社会中它确实存在。

技术的东西其实好解释，数学关系可以在一开始就看得很清楚。打个比方，20年前当乔布斯第一次拿出智能手机的时候，数学关系就已经成立了。你得到了一个终端，它能够以台式机大概十分之一的价格接入移动互联网，理论上这个终端每天陪你的时间可以达到10个小时以上。

接下来20年中，我们看它不断展开，展开了社交媒体、移动支付、短视频等等。这些东西你不知道什么时候到来，也不知道以具体什么形式，但它背后的基础是这个数学原理。所以，今天AI到来，这个数学关系已经存在了，我们第一次有了这么一个技术，能够以特别低的成本来量产大概相当于99%人的智能。假设我们就把人看作是一个生产智能的机器，我在这输出一分钟大概就是200个token，我输出一天顶多就是20万个token，但是AI生产100万个token只要1块钱，这个是最致命的。

只要你的老板还在算你的ROI，算你的工资，算你的岗位值不值钱，你就知道会发生什么，它干你5天的工作量只要1块钱，就算它干的不如你好，老板也会在考虑是不是直接用它。

你去拒绝这种数学关系，本身是没有意义的，有意义的是去考虑你自己发生什么样的变化，你才有可能有一个好的未来。如果我们想象一个最阴郁的未来，那么我们不需要思想家，只要那个事件自然发生就可以了。所以，一个思想家的任务，就是去想AI带来最积极的可能是什么。技术这个东西，只要你用的方法对，让它把你变得更好，其实没那么困难。

维舟：人类对AI的态度确实存在一种分裂：一边是作为赋能工具的“好AI”，它如同一个强大、低廉、不知疲倦的助手，能实现我们许多愿望，这无疑令人向往。坏的AI是什么呢？大家恐惧这个东西不受我们控制的，哪一天变成我们的主人了，我们变成奴隶了，在前一个角色它是一个勤奋的、低廉的、好用的奴隶，在后一个角色里面，我们变成它的奴隶。

从哲学角度看，这关乎人类的主体性与支配欲。我们既不应如卢德主义般抗拒进步，也应该理解像凯文·凯利所说的“充分的进化必须伴随一定失控”。就像父母不应过度控制子女的成长，人类或许也需要重新审视自身对技术的控制欲，在恐惧与期待之间，寻找新的平衡。请刘老师谈一谈，怎么理解人类的主体性或者支配和被支配的恐惧感？

刘擎：我在想历史上的事情，其实是我们后来去看的时候，发现它是被选择出来的。就像笑宇在《产业与文明》那本书里写过，技术需要一个商业漏斗，这个商业漏斗不完全是市场盈利，它有大量文化的因素。如果你现在说好和坏的时候，我们已经在这个框架里边走好和坏，我们有没有可能不要这个框架？他说不太可能，我看也不太可能。那么，仅仅用数学、物理和生物的逻辑，我们是不是能够有一个不可避免的解决方案，我是迟疑的。

比如说主体性的问题，我们害怕的是什么呢？我们以为我们害怕的是AI统治我们，AI失控了，我们成为它的奴隶了。不是的，最好的主人是以奴隶的面目出现的，是侍奉你的，是你的仆人，是你的玩偶，随便你支配，然后变成奴隶。它根本不是主人的面目，它非常有诱惑力。

有一次我在谈AI的时候，我就想到有点像20世纪80年代、90年代初谈互联网，互联网带给我们可能性比没有互联网肯定是更好的。为什么现在公共领域会变得极端化？世界这么复杂，我们希望用简单的、概念的、标签的去认知，我们都是用标签思考，大概20个标签，就可以把世界搞定。

社交媒体和网络时代重新改变了我们的感官结构，我们能够非常省力地、轻易地感受到美轮美奂的视觉体验。国庆节我们去旅游，每个景区都是人山人海。但是你在手机上可以3分钟看遍丽江风景，甚至还有BGM和航拍视角。你想去看日出，就需要凌晨4点钟起来，天气不好还看不到。但是手机上可以把一年里10天最好的日出拍出来给你看。

所以它改变了一个生态，我不能说这好不好，但是站在一个传统人文主义角度，新的时代，后人类的价值体系是什么？我们还不知道。所以我现在有一种悬浮感，我有失语的感觉，新的价值观什么叫好呢？我们能够知道的是效率越来越高了，但快就真的好吗？

站在传统的视角来看，我们的人文在衰落，我们正在变成一个新的物种，我们已经不是我们以往所知的那个人类。技术一直是在改变人的，一直在重新塑造，海德格尔、斯蒂格勒都讲过，这个不是新的事情。新的事情是技术变化太快了，我们的文化适应已经无法驯服它了。你还没掌握它，它已经迭代了，这个是前所未有的。

一方面我们见证了巨大的文明史意义上的变革，但另一方面，我带着一种说不上的落寞和伤感，倒也没有多大的恐惧。我不觉得未来AI统治人类，会像我们人类一样野蛮，它最多把我们当做宠物。我们人现在在感情上大家都是淡淡的，我们现在叫“淡人”，低电量运行，封心锁爱，主要是不要内耗。我们在一个那么有效率的时代，我们好像耗费很多去安全自保、规避风险。

我觉得现在的孩子一代一代看下来，眼神里没有年轻的光泽，当然不是绝对的。我仿佛看到一代年轻的生命在凋敝，他们甚至从未绽放过。

02

为什么很多人讨厌宏大叙事？因为他们不知道背后具体的因果

维舟：就像中国近代遭遇西方文明的冲击，三千年未有之大变局。我们原有的那套文明体系突然不管用了，面对船坚炮利，眼睁睁看着自己的文明被冲击。当然，我不是说要抗拒新文明，人类也不会注定被淘汰。

这本书里提到很多规律，比如张笑宇老师讲的“铁律”，说它们不可抗拒。当我们看到这些所谓宏大叙事的时候，我有一种感觉，不是说不确定或者无力感，而是说你就算知道了这个规律，还是不知道怎么做。

举个例子，大概十几年前，复旦新闻系一个老师对学生说：你们毕业以后，报纸甚至电视迟早会被互联网淘汰。有学生听了觉得有道理，但觉得“有生之年”还长，还是进了报社。结果呢？不到十年，冲击就来了。所以就算看清了大趋势，也不代表你能踩准节奏、抓住机会。我们看到这些趋势或者说看到某一个未来，该如何看待这个复杂的社会变化？个人应该怎么做？

张笑宇：我们今天所有人都讨厌宏大叙事，但是很少有人知道，预测未来跟宏大叙事之间的区别是什么。区别在于预测未来这些东西是能算的。

为什么很多人讨厌宏大叙事？因为他们不知道背后具体的因果关系是什么，他只是凭着感觉，真等到需要他做决策的时候，听了很多宏大叙事等于没听。如果这个老师只是跟他说多少年后，报社就不存在，他只是跟他讲了一个宏大叙事，然后你没有教他一个真正的东西，这个背后本质上不是一个知识，它是一个凭感觉的很模糊的判断。但是今天所有的变化是在我们一生中20年内发生的，我们一生中会经历两次巨大变化，这个时候还凭感觉就不够了。

我认为问题不在于技术进步有多大程度上跟人文制衡形成了一个对冲关系，因为只要你是一个多元社会，这种对冲关系一定是存在的。我前段时间去欧洲参加TED AI在维也纳的会议，他们专门请了一个哲学家来讨论，他不相信AI能够向善，原因还是海德格尔的理论，人本质上是一个为自己，being a being，作为存在而存在。而一旦我们认为这个事情可以外包给AI的时候，或者外包给任何技术的时候，我们实际上丧失了人作为这样一个being的主体性，这个理论讲的特别漂亮，特别有说服力。

我举了个例子，给他提了一个问题，我有个朋友在国内用AI帮老年人写回忆录，他做这行之后，发现最让他担心的，是怕有人借这个机会骗走上海老干部的房子——因为他亲身感受到，老年人真的太孤独了。AI可以让你访谈他3个小时，把他一生的故事讲出来。但这个老人已经不跟他的孩子聊3个小时，也很少跟他的老伴聊3个小时。我就跟我朋友说，这或许就是技术真正帮人建立连接的方式。比如访谈时如果子女在旁边听，可能会对父亲有全新的认识，之后吃饭时就会主动聊起这些。如果没有这样的机会，可能一辈子都不会聊，直到老人离开。

我就问这位哲学家，这是不是算我们可以用技术帮助我们人去更好地跟别人connect？这件事其实提供了一个具体路径，让我们这些关心人文连接的人，能真的把它落地。但第一步是什么？可能就是让哲学家、工程师、创业者坐到一起聊。这位哲学家回答不上来。

我跟他说，我觉得他是一位受过非常好训练的哲学家，他讲的海德格尔非常对。但是我觉得，在一个多元社会里面，不同的观点或者不同的集团有碰撞，这才是多元社会本来就应该有的样子。

我身边有很多做AI创业的朋友，但是他是一个纯纯粹粹的哲学家，他生活在那个世界里，他的任务就是天然地去质疑这些我们不加思索就认为好的东西，技术进步，经济繁荣等等，这些，这是他的天命，他的使命所在的。

但是我想说的是，其实这并不是我们得以过渡到现代社会所必须的那种好的启蒙。因为启蒙有很多传统，比如说一个科学家，一个工程师和一个人文哲学家坐在一起的启蒙，只有一个成功，是苏格兰启蒙运动，那一代知识分子对这个事情是有感觉的，我会看到苏格兰启蒙运动对功利主义的重视，有一些人干脆很明显看到他其实就是一个技术统治论者，最明显的就是边沁，他是不自觉下意识就在他的作品里流露出这种东西。我们今天反过来看，至少我今天反过来看，这是因为那一代人跟工程师坐在一起了，所以这些东西就耳濡目染进入他的作品。

所以我们在看到很多社会困境、AI的问题，我们不知道用什么样的办法解决。但是我相信一个更好的人他一定可以找到更好的方式，一群更好的人他一定可以用更好的方式进行沟通，如果我们今天的任务是培养这些人，让他在下一个世代帮助我们做出更好的选择，用他们觉得更好的方式去用AI的话，我觉得这个可能才是真正的解决方案。我们今天是没有办法替他们去找答案的，但是当我们让他变得更好的时候，他们可以自己找到答案。

AI绘画 蓝屏事件 |图源：HERO PAVEL

03

AI允许你不成长，你可以停留在原地

维舟：关于AI对人的陪伴，AI是超级有耐心的，它不会发脾气，不会不耐烦，它永远都能够回应你，因为它就是为你度身订做的。这个当然非常好，甚至好到很多人跟AI相处时间久了以后，会对人类感到厌烦。怎么面对这样一个状况？

刘擎：AI有非常重要超越人类的一点，就是不脆弱。但是人类的脆弱性是我们好多品格的来源。我们作为人，有两大重要的生命事件，一个是谋事，把事情做好，选择最优化的工具，理性推导把事情做好。

还有一个是成人，成人一般是跟品格塑造是有关系的。因为我们人是脆弱的，我们有肉身，会发展出同情心、善良、勇敢一系列东西。在人类的世界里，有一个叫做care的东西，care就是关心、关怀、照料、呵护、在乎、在意，这一套东西在整个现代世界里开始凋零和萎缩了，因为我们主要是在谋事。比如说，本来在传统社会的共同体里，谋事和做人是在一起的，后来我们把这个东西拆开了，谋事是可计量、可比较、可优化的。而做人，特别是care这一方面，变成一个无关紧要的东西。

现在我们为什么不会爱呢？不是说不会谈恋爱了，我们首先考虑的是我对你这样关心，你会怎么感觉？会收到什么效果？你会对我怎么样？我付出是不是太多？我们已经在用那个系统的语言在理解和描述另外一个系统。Care第一要务就是我对你有一种抑制不住地要关怀你，比如说我看到一棵树倒了，我把它扶起来。对一个人也一样，我首先是对你抑制不住的关怀，你的冷暖怎么样，你是不是生病了。但是现在变成了，我对你表达关怀，要去考虑你怎么回报我。

AI带给我们什么呢？它会给我们这样的关怀。但是你会不会由于被过度好的一个没有脆弱性机器的care，导致你自己的爱无能呢？因为我们受到AI的关怀，我们不会去反馈它。当然，也可能我们把AI想象成一个主体人，你如此得善待我，我也会有一个回应，就是AI配得上我的善意。好多人现在跟AI说话很礼貌，“谢谢你给我这么好的答案。”

我不能想象未来那个状态，可能最后每个人都是跟AI交往，我们跟世界交往的直接性失去了，我们通过一个界面，一个中介来协调我们跟这个世界，要不然这个世界太可怕了。每个人都是以自我为中心，发展不出一种主体间性的友爱、团结，这是很大的挑战。

AI支配我们的是什么？在某种意义上，它瘫痪我们，因为人类共情的能力是要在挫折当中去克服挫折，在被伤害以后遇到一个不伤害你的人，或者你首先展示善意，把自己的脆弱裸露出来，我不怕被伤害，我要关怀你，当然，这种情况下大概率会冒险，会受伤，会付出太多、得到太少，但也可能你找到了真正的朋友、真正的恋人。

张笑宇：AI带给你的是一种爱的语言，东亚父母不太懂什么是love。人是有一个能量的，我认为爱在我的生命中带给我两个东西，第一，它让我不内耗，你越内耗，就越难成事，因为你做决定的成本非常高。当有人真的无条件爱你的时候，你不会对你自己的价值产生那么大的怀疑，就算这个世界上其他人不认可我，有一个人全心全意地认可我。我哪怕住着出租屋，走出地铁的时候，我的心都是饱满的，我想起她脸上就带微笑，爱让你不内耗，让你感受到自己的价值。我认为爱是给你一种无条件的认可自己、肯定自己的东西。

但是你要爱别人，你是要有能量的。我认为现在孩子不是说我们的教育让他不懂爱，是因为这个社会对他来说真的很困难，如此内卷，他没有足够的能量真的去爱别人。AI有一个用处是什么呢？它能够给你充能，让你认可自己，从而有能量去更好地对待他人。我们可以找到正确的方法，定位AI在人的情感中到底是什么位置，让它帮助我们自己变得更好。

电影 HER 剧照

AI的情感陪伴不是完美的，首先得说清楚，爱到底是怎么回事，AI在里面能扮演什么角色，AI能提供情绪支持，但有些东西它永远替代不了。比如在长期稳定的关系里，你们会一起经历十年、二十年，一定会吵架，但也会慢慢摸索出解决问题的方式：吵完怎么复盘、怎么避免下次再吵、晚上不要做决定……这些具体的方法，是两个人一起成长的过程。你会意识到，自己因为这些经历变得更好了。

而AI给不了你这些。AI允许你不成长，你可以停留在原地——但现实世界不会，真人关系也不会。所以AI情感陪伴真正的价值，是给你充个电，让你更有能量回到真实的关系里，去面对那些需要成长的部分。

《AI文明史·前史》

张笑宇 著

中信出版社，2025