刘禾 汪晖 格非｜人类还有独属于人类的未来吗

来源：市场资讯

（来源：澎湃新闻）

2025年9月7日，哥伦比亚大学终身人文讲席教授刘禾、清华大学教授汪晖、作家格非齐聚上海图书馆东馆阅剧场，以“数字时代和人的未来”为主题进行对谈。本场活动为“我们时代的思想者”开幕论坛，特别邀请华东师范大学副校长雷启立致开幕辞。

在数字技术深入渗透日常的当下，情感、记忆与无意识正不可避免地与算法发生纠缠，人机之间的界限也愈发暧昧。“弗洛伊德机器人”这一概念的浮现，不仅是技术发展的必然，更是人类潜意识的投射与映照。当智能机器不断从“模仿人”走向“成为人”，我们不得不追问：在人机纠缠的回路中，“人”的意义是否正在悄然改变？今天，三位学者齐聚一堂，以不同的学科立场与经验，重新思考人类与机器的共生困境，引出对当下与未来的深层追问。

本场活动由上海图书馆、华东师范大学国际汉语文化学院、华东师范大学中国语言文学系主办，上海图书馆讲座中心、华东师范大学远读批评中心、华东师范大学全球中文发展研究中心承办。

华东师范大学副校长雷启立致开幕辞

刘禾教授发言

华东师范大学远读批评中心同学带来表演

以下为对谈内容：

活动现场

汪晖：刚才我们看到了一场精彩的表演，刘禾老师在新书中也写到过一位年轻的女病人和“伊莉莎”的人机对话。和机器对话很大程度上是和我们自己对话，就像照镜子一样。AI不仅能和我们对话，还能根据指令生成文章、绘画和音乐，它仿佛成为了一面能动的、有生产能力的“魔镜”。当我们越来越依赖机器这面魔镜来表达和创造时，我们是在借助工具扩展自我，还是在将自我的定义权让渡给一个由他人算法所定义的反射？我们该如何与这个“镜中之我”保持一种健康、清醒的距离？如果像刚才这样的对话继续持续下去，是否可能变成我们看待自我的一种新的方式？刘禾教授，您怎么看待这个现象？

刘禾：约瑟夫·魏岑鲍姆（Joseph Weizenbaum）将历史上第一个聊天软件开发出来后，曾在采访中提到，他有一天在办公室发现自己的助手在和程序对话，正要凑近看时，助手说：“你别接近我！这是个人隐私。”魏岑鲍姆开玩笑说，这个隐私其实不那么隐私，因为他可以从后端了解聊天内容，结果助手大发雷霆。魏岑鲍姆说，人们，包括他的助手，都误解了聊天程序的本质。在他看来，用户和程序互动时，其实把自身的愿望、幻想和期待投射到了机器上。机器生成的文本语言非常模糊，这为用户提供了广阔的诠释空间，就像人们去算命，在解读算命先生话语的过程中，仍然会回到内心早已存在的答案。

汪晖

汪晖：让我们从文学的角度回答一下这个问题。刘禾老师的书里谈到了乔伊斯的《芬尼根守灵夜》，并指出现代主义文学的先锋性与某种语言文字的随机性相关，而这种随机性如今已然可以技术化。格非老师，从您的写作经验来看，您认为文学创作中最核心的、最无法被技术替代的价值是什么？当世界的“真实性”越来越被数字幻象所中介，人类还有独属于“人类”的未来吗？对于人类“认识自身”而言，讲故事和形式实验，何者更为重要？

格非：这是非常重要的问题。我花了十天时间读这本书，其中有几个方面和这个问题是密切相关的。第一，无意识与技术的关系。第二，从口语到书写，再到计算机的信息处理，这个漫长的语言学过程中发生了什么？第三，现代主义文学和技术到底是什么关系？回到汪晖老师的提问，昨天我和李陀老师聊到这个话题，李陀老师说，他在读马克思的《关于费尔巴哈的提纲》时有一个信念，同时也是马克思的经典说法，即认为我们认识世界的目的，就是为了改变这个世界。可是德国学者君特·安德斯的说法与此不同，他认为，我们认识世界的目的不是为了改变世界，因为世界一直在改变。刘禾老师在书里提到了《庄子》中关于机械、机事和机心的寓言，这恐怕是海森堡特别关注的一个问题，其中就涉及语言和无意识。我作为一个小说家，如何理解乔伊斯？比如他为什么写出了所有作家都公认的写实主义力作《都柏林人》《青年艺术家的画像》后，还要重新寻找新路去写《尤利西斯》？《尤利西斯》实际上做了非常巨大的冒险，这个冒险在世界范围内引起了争议，但他后来又去做了关于《芬尼根守灵夜》的更极端的尝试。刘禾在书中把它称作语言内部机制的极端冒险。我经常说，如果把我心中的文学压缩成两本小说，一本是列夫·托尔斯泰的《战争与和平》，第二本就是《尤利西斯》，或者《芬尼根守灵夜》。前面一本代表了整个现实主义的最高成就，而乔伊斯涉及了最核心的东西，即“什么东西不能被AI取代”的问题。我认为一个人，作为个体的生存体验，那些刹那间的感觉和感知，是机器所不能取代的。并且我们的体验并不能随时取用，而是把它存入记忆当中。可是从尼采，到弗洛伊德，再到德国古典哲学观念论时期的谢林，他们都有一个共同的说法——记忆从一开始就是无意识。我们不能认为记忆是一个完全理性的、不受控于意识的行为。写作最迷人的部分就是记忆的无意识部分，因为人在行为当中，比如谈恋爱，你觉得高兴，但这些事情很快就会被遗忘。如果某个行为在大脑中留下印记，那这个印记就会被归入无意识的范畴，比如受到窘迫、挫折、巨大的悲伤，或是不能直视的生活场景。当然，如果人的精神出现问题，这是因为无意识的内容侵入了意识的领域。文学在某种意义上就是如此，里面有一个巨大的无意识空间，人们无法完全按照基本语义和它表达的内容来呈现。真正迷恋乔伊斯的人不一定是文学家，而是科学家。法国大革命有一批革命者，他们大部分原先都是色情小说作家，所以文学和技术、政治，从来都是不能分开的。回到汪晖老师的问题，我们需要去探索一个空间，即拉康后来揭示的，无意识的茫茫黑夜。文学的一部分受理性控制，更多的部分是尼采说的，狄奥尼索斯的创造性智慧，它被黑暗所笼罩，需要通过写作把它召唤出来，才能获得乔伊斯式的、真正意义上的书写自由。

格非

刘禾：文学在我这本书中占有很大的比重，而我之所以在这本书中加入文学，并不是把文学作为语料库使用。我在书中提到俄国数学家马尔可夫（Markov），他的“马尔可夫链”（Markov Chain）是很早期的数学模型，而这来自于对普希金的诗《叶甫盖尼·奥涅金》中元音和辅音的计算。文学是先于数字技术的，尤其是现代主义文学。乔伊斯在《芬尼根守灵夜》这本几乎不可读的小说里做了一个数学实验，而这就是为什么“信息论之父”克劳德·香农把乔伊斯这本书拿来计算熵（entropy）和冗余度（redundancy），乔伊斯这本书在他的通信理论研究中起了巨大作用。另一个话题关于人和工具。教科书给“人”的定义通常是“能够制造和使用工具的动物”，后来我们发现鸟类和别的动物也会使用工具时，很少反省教科书的定义存在错误，而是反过来赞美那些动物和鸟类的智慧。但仔细想想，我们真的在赞美动物和鸟类吗？不，我们赞美的是自己，好像人类是世间万物的衡量标准。这是一个哲学问题。

刘禾

汪晖：两位都提到了无意识，提到了某些经验和感性。不过刘禾老师提到一个新的无意识概念——“控制论无意识”，也就是格非老师刚才提到的，作为作家所受到的一个挑战，就来自于控制论无意识。刘禾老师，我们能够用心理分析的方法对机器人进行分析吗？

刘禾：我认为用精神分析的方法分析机器人，就等于分析我们自己。

汪晖：刘禾老师在书中提到“人机拟像”的无限反馈回路，即机器模仿人，人再模仿机器，这个过程循环往复，最终使得“自然人”的概念变得可疑。我们今天讨论的是人的未来，这让我想起更早时期的哲学辩论，比如笛卡尔说动物是机器，人不是机器。为什么？首先因为人有理性。他所说的理性是能够计算，能够通过人的精神表达出一种完美的宇宙世界。第二个是人有语言。理性和语言在当时构成了人区别于动物的标记。在这个意义上，他模糊了有机和无机，动物如果是机器的话，有机和无机的边界就被突破了。但是他守护着人和动物之间、理性和语言的边界。后来的拉美特利，既从笛卡尔的理论来，又反驳了笛卡尔，提出人也是机器，因为人有感性。比如梦幻，睡梦中的幻觉和人清醒时的状态之间，也没有清晰的边界，所以那一部分是依托于人的肉身的。换句话说，精神和肉身无法分离。现如今“人机拟像”的无限反馈回路造成了人和机器的并存，似乎能够隐隐约约地感受到边界的动摇。所以，我们是否正在经历一个二者边界彻底溶解的“后人类”过程？在这样的图景下，建立在人类例外论和个体自主性基础上的传统伦理框架，是否正在面临挑战？我们需要怎样的新伦理来应对这种根本性的转变？

刘禾：我始终在焦虑人的主体性的安置问题，因为现在人和机器的界限很不明确。但这并不是说我们分不清人和机器，而是如果要重新定义“人”的话，人已经不是一个脱离机器存在的主体，必须存在一个加号。比如我和我的手机是一体的，如果手机突然丢了，就好像是自己掉了一块肉，因为我的记忆全都在手机里，已经没有办法界定我和机器之间的界限在哪里了。很多人说人机融合了，人可以植芯片，人类可以不朽，但我不那么乐观。这本书提出的是一种哲学的批判，人完全有可能会变成“弗氏人偶”。就像情侣在一起坐在一起喝咖啡的时候，两个人都对着自己的手机，这个图景是值得我们深思的。

刘禾著《弗洛伊德机器人》

汪晖：接着从另一个角度问格非老师。“人机拟像”或它的增强，现在能不能实现、何时实现，还依旧是一个问题，不必要马上回答。但是人工智能创造的虚拟现实，这一定程度上已经成为年轻人生活中的一部分。所谓“虚拟现实”、“增强现实”、“元宇宙”等概念都在模糊现实世界和镜像世界的关系，人工智能似乎变成了有自己生命、思维、方式的另外一种东西。作为一个长期通过“虚构”来探寻“真实”的小说家，您如何看待这种技术带来的现实感变迁？这是人类想象力的伟大延伸，还是一种令人担忧的、对现实世界的逃避甚至替代？在这样的背景下，小说家的虚构世界还能为我们理解现实提供怎样的独特价值？

格非：我和刘禾老师在某种意义上有相似点，就是悲观。在文学这个领域，我觉得我们可以做的部分已经很有限了。刚才我提到乔伊斯，乔伊斯为什么要做这么大胆的实验？我觉得是因为技术的进步和发展。刚才汪晖老师提到的“人机拟像”等问题，这些都不是到现代社会才发生的，从古至今一直有漫长的讨论。有一个很重要的物理概念叫“涌现”（emergence），即在一定的系统条件下，事物本身会发生突变。最近带清华的学生们重读了《战争与和平》，我认为《战争与和平》写的是突变，是通过拿破仑的战争、通过法国大革命、通过启蒙运动，让整个世界发生巨变。战争把一个从西向东的历史运动带到俄罗斯，然后由于库图佐夫击败了拿破仑，俄国军队又从东向西打到了巴黎。然后他们受到巴黎进入现代世界的诱惑，回到俄国以后成立了十二月党人，开始起义。所以托尔斯泰在写《战争与和平》的时候，已经准确预料到了1917年的革命。我们在讨论这些革命的时候，会讨论很多历史运动、社会变革等，但我们很少讨论技术问题，比如远洋贸易、资本主义的产生、蒸汽机的发明。如果从这个角度看《战争与和平》，就能发现托尔斯泰写的是对一个历史运动本身的描述。用两个概念概括的话，就是“系统”和“个人”。虽然相隔时间不长，但在乔伊斯的笔下，系统和个人的关系又发生了根本性巨变。所以我认为，技术变革所导致的社会的系统性变革，其速率会越来越快，甚至快得让人无法想象。“弗洛伊德机器人”的背后，实际上是一个死亡驱动力，是一种无意识。去年，有一位科学家在《科学》杂志上发表了一篇关于热力学第二定律的论文，他在讨论人类未来时提出，人的技术只不过加快了这个进程而已。在这样一个科学技术不断发生突变，整个社会、人与人之间的交往、信息传播等所有领域都发生根本性扭转的状况下，我们的身份都成了问题。比如，我是什么身份？我到底是谁？对于系统来说，系统不认为你是男的、女的、官员、教师，或父亲，系统只认为你是庞大系统里的一个小点。在这样的情况下，如果文学在进入社会现实时不寻求变化，而仍然用四平八稳的老方式来描述现实，你不觉得可笑吗？法国哲学家德勒兹对“奇点”（Singularity）一词做了很重要的解释，今天的文学如果找不到奇点，创作就没有了意义。乔伊斯实际上也在寻找这个奇点。比如上次和汪晖老师聚会时，我聊到了麦尔维尔的《白鲸》，他为什么要写《白鲸》？因为他找到了白鲸自动奔赴某个地方去毁灭的点。麦尔维尔还写过一篇更奇怪的小说，就是《抄写员巴特比》。今天重读《抄写员巴特比》这篇短篇小说，我们也会发现他介入了一个点。鲍德里亚说，你做任何事情，系统都不会有反应。一个人可以反抗所有人，但是反抗不了系统。系统非常强大，只有找到奇点才能突破。按照鲍德里亚的说法，巴特比在美国、欧洲都被认为是一个恐怖主义分子，为什么？因为他不消费。不消费对于系统的影响是最大的，一个人不消费、不工作，什么都不干，就在律师事务所呆着，这是他写的点。乔伊斯是一种方法，麦尔维尔也是一种方法。我觉得当代作家如果要继续写作的话，一定需要找到这个奇点，使得创作和系统的关系变得更加有意义。

列夫·托尔斯泰著《战争与和平》

刘禾：现在的问题是，如果AI可以做艺术，那我们就得问艺术变成了什么？如果AI能写作，写作变成了什么？如果AI能冒充人，那人又是什么？人工智能发展所提出的最根本的哲学问题就在这里。我们现有的关于人生、生活的意义，关于人类文明创造的各方面的文化、社会、政治等所有东西，会不会在这个系统面前变成另外一种东西？这是需要思考的问题，而不是简单地认为AI可以画画了、可以写作了、可以替人翻译了。写作是什么？艺术是什么？人是什么？每次面对新技术时，我们都必须重新提这些古老的问题。

汪晖：格非老师提到了《战争与和平》，提到了解释《战争与和平》的技术因素，我们可以想象托尔斯泰对此的回应。托尔斯泰对和平的理解，及其背后的宗教关怀，存在一个想象中的世界。格非老师还提到了系统，让系统中断的最大威胁来自于停止消费。但我们也知道，今天的贸易战在一定程度上与此相关。换句话说，所有尖端技术，尤其是智能技术，越来越像是军事竞争逻辑背后牵动的。这个话题和刘禾老师直接有关，刘禾老师在书中指出，“控制论无意识”网络实则有一个源自冷战军事需求的技术理性作为根基，通过全球性的知识流通与翻译，构建了一种跨越东西方的普遍性。在如今的后冷战世代，当人工智能技术本身正在演化为新一轮全球竞争的焦点时，我们是否还有可能超越这种冷战技术逻辑？这种超越是在某种对立的基础上越走越远，还是有可能在《庄子》寓言和海森堡的反思之上重建另一种总体性？我们该从哪里寻找？

汪晖

刘禾：这个非常困难，相当于在竞争之外寻找另一个可能性。我写这本书时做了大量的档案研究，通信技术，包括AI背后的各种控制论等，所有技术都是冷战的产物。90年代时，我在伯克利加州大学任教，有人告诉我，70年代、80年代在伯克利毕业的理工科学生，如果想在硅谷一带找到工作的话，没有办法绕开军事技术，也就是说找不到任何一个和军事研究没有关系的科技领域的工作。现在中美在AI研究方面存在竞争，我看不出来在竞争之外还有什么发展的可能性，这很危险。冷战时期是美国和苏联之间的竞争，当时的机器翻译就是为了处理情报，美国国防投入大量资金来发展机器翻译。现在的ChatGPT等工具翻译得很流畅，其实这背后和地缘政治等方面有密切的互动。

格非：我稍做一点补充。技术有一个很大的特性，它涉及到权力，而且是根本性的霸权。各个国家都心照不宣地把所有技术都隐蔽起来，大家在做一个非常可怕的竞赛，就像当年的曼哈顿计划一样。原子弹刚发明的时候，大家都争先恐后，所有技术的意图都很清晰，谁先发明原子弹谁胜。在今天的技术层面，如果有国家率先掌握远超其他国家的新技术，那么大家可以想见其带来的力量和权力。如果所有人都这么思考问题的话，确实会带来刚才刘禾老师说的那种可怕的场景。杰弗里·辛顿到中国来提了一个方案，我觉得很有道理。他说，每个国家在发展自己的核心技术，这是可以理解的，因为发展技术的目的是为了避免被别人奴役，但是大量的其他技术应该及时分享。我觉得应该对技术进行不同的分层，比如今天这样的讨论就特别重要。文化、文学上的讨论，使得我们在关心技术发展时，不仅仅关注技术迭代的速度，更要像刘禾老师所倡导的那样，从哲学、心理学、历史学的角度，来认真思考技术对当今社会带来的诸多问题。

刘禾

汪晖：感谢两位老师的发言。下面的的问题和语言有关。刘禾老师在书中批判了以“机识英文”为代表的拼音文字表意化所蕴含的帝国普世主义，它试图将一切语言和生命形式都纳入其可计算的单一系统。中文作为一种非拼音文字系统，在数字时代面临着被这种普世主义“收编”（如通过编码和输入法）的强大压力。您认为，中文的文字特性及其背后的思维模式，是否可能为抵抗这种数字普世主义提供某种可能性？第二个问题问格非老师，在这样一个背景下，持续性的、具有创造性的汉语写作，在数字时代具有什么样的意义和可能性？

刘禾：从理论上来说，香农当年发明通信数学公式的时候，往26个英文字母里加了一个字母，这第27个字母是“空格”。他说，英文的字母表是27个字母，在这个基础上，才有通信的数学模式。所有的语言和文字最后都会纳入编码模式，因此它在机器里是具有普适性的。当然，每个汉字也有自己独特的编码，能够进入统一的系统，在这个意义上，汉字不能作为一种另外的资源来思考普适性问题。但是另一方面，汉字在早期人工智能的研究中起了很大的作用。50年代，英国剑桥语言研究小组在做机器翻译研究时，发现汉字和汉语主要依靠组合逻辑（combinatorial logic），而非命题逻辑（propositional logic）。对比来说，英文和法文很难将词与词、句与句对应，因为词是多义的。因此他们提出了一系列语义网络，如今的向量空间等方面的人工智能研究，都和他们曾经的这类工作有关。从这个角度来看，汉语对人工智能的贡献是持久的，因为它建立在对语义的理解之上。

克劳德·艾克伍德·香农

格非：我个人认为，我们今天的写作，尤其是使用语言的策略，遇到了多重的挑战。比如，我们很多作家根本不像过去那些作家一样，要通过自己的经验积累才能获得写作素材。例如新闻媒体信息就能提供很多素材，这让写作在某种意义上变得非常容易，因为它提供素材的同时，还提供大量的附加信息。比如你对医疗行业不了解，通过Deepseek或其他软件，完全可以把自己变成一个专家，可以描述一个原本不熟悉的门类或一种社会生活，这在过去是不敢想象的。但它同时也造成一个问题，那就是，如果AI也能做的东西，做得会比一般作家好。这样一来，一个人通过长期的语言培训产生的语感会消失，语感不仅仅代表语言训练得多好，更重要的是代表了一个人和世界的特殊关系。第二，写作过程中，经常会有突发奇想，进入一个自由的状态。福柯有一个非常著名的说法，如果你找到了一个很好的词，你怎么知道这个词不是从远方飘过来，经过了你的大脑？博尔赫斯有一句更加精简的名言：“作家是神的抄写员”，神就是灵感。当人处在出神的状态，语言的敏感性是不一样的。但是大家也都知道，这样的写作在今天没有前途，因为能够精细把握语言的读者越来越少。在这种情况下，一般性的写作会被人工智能取代，如果要做精深的探索，表达个性，将会变得非常困难。当然，我认为写作是绝对有意义的，这个没什么好商量的，万一有一天机器写得比我好，我也不会放弃写作，因为写作是我的权利，它给我带来巨大的快乐。唯一的问题是，我们的作品很可能会回到李白、杜甫的那个时代，只被很少的人阅读，但这也没什么不好。今天有一些年轻的写作者，他们写了很多不发表的作品，给朋友们看一看，印个一两百册，这种写作在将来会变得非常普遍。写作不是一种比赛，而是为了把你从焦虑中、从无聊中拯救出来的一种游戏，这个权利你不能放弃。我觉得只需要我们在被读者认可这方面适当降低一点期待值就可以了，全国有14亿人，如果有10万人买你的书，这个数量也不小。我们需要重新调整跟时代的关系，凭着自己的内心，从中来确定我们的语言策略，否则的话，写什么都没有意义。我很迷恋写作带给我的巨大激情，所以我觉得尽管我们面对很多困难，但还是有办法克服的。

汪晖：格非老师的话给了我们一点信心。清华大学曾经有一个讨论人工智能的活动，我观察发现，从事技术的科学家到今天为止，主要还都在从事着工具性的发展项目。而哲学家、伦理学家更倾向于把人工智能看作是和人类几乎并置的他者，这是人类历史上从未出现过的现象。但这个现象背后存在着对所谓通用人工智能，和超级人工智能的恐惧，因为它不但能够达到人的智能水平，甚至可能超过人。刘禾老师的书中也提到了“恐惑”（uncanny）这个概念。弗洛伊德提的传统的“恐惑”体验中，那个“诡异的他者”既熟悉又陌生，但其“他者性”的边界是清晰的。然而，当前AI的目标是创造“无所不知、无所不能”的通用智能，其本质是一种没有内在性、没有潜意识、却又能完美模拟所有人类表达形式的存在。我们不知道人工智能发展的奇点有没有到来，至少到今天，恐怕很难作肯定的回答，但它的速度之快使人们感觉它要到来了。像刚才刘禾教授提到的“控制论无意识”一样，它带来的是无意识，但这又不是我们通常所说的意识和无意识。也就是说，它没有所谓内在性，没有真正的“自我”（self），没有所谓的“内在深度”（inwardness）。这是否会导致我们传统的关于他者性的讨论也消失，转化为另一种东西？我们过去讲“他者”都是讲其他的宗教、其他的民族、其他的地区，我们讨论像爱德华·萨义德（Edward Said）讨论的那些他者化问题。可是我们今天面临的是完全不一样的他者，那他所带来的对人类的不安全感，一定程度上也会塑造我们的自我意识。我们该怎么去理解这个自我意识？此外，刘禾教授在书中非常强调人与机器持续的循环模仿，我们都知道，人工智能带来了很多便利，但同时也带来很多危险。客观地讲，我们面临的危险包括两类，一是日常社会化的系统问题，比如高效率的人工智能导致大规模的失业，我们该怎么处理失业问题？又比如无人驾驶的汽车撞死人了，如何认定法律纠纷和责任问题？二是技术性的人工智能失控，机器人“发疯”等等。今年暑假前，图灵奖得主姚期智教授说，现在的问题不是理论上的，而是实际上已经出现了。那么接下来，社会科学家要提出对这个问题的治理模式，以及一系列人工智能的治理方式；哲学家和伦理学家要讨论新的AI伦理该如何成型。德国的伦理学家曾提出过一个问题，我认为跟刘禾教授讨论的问题具有相似性。他们都强调，AI伦理无法运用迄今为止已经发展出的规范伦理学、实践伦理学，只能在互相模拟和相互互动中产生。这一方面提出了巨大的挑战，但另一方面，这使我们对它的把握具有高度的不确定性，又会增强“恐惑”现象，您能否分析这个现象？

机器人与“恐怖谷效应”

刘禾：我们平时看到的机器人形象大多是非常可爱的，但其实从70年代开始，一些制造机器人的公司和大学实验室，已经在讨论一个叫“恐怖谷”（the uncanny valley）的概念。最早提出这个概念的是一位日本的机器人工程师，叫森昌弘。森昌弘从弗洛伊德得到启发，他说，我们可以把机器人的手做得跟人一样，静脉、肌肉、肌腱、指甲，甚至肤色，全都一模一样，但是当你去和它握手的时候，它是冰凉的。这是非常恐怖的。森昌宏说，机器人产业必须制造一个标准，一个衡量在什么情况下，人类和机器人之间的互动会落入恐怖谷的标准。后来，好莱坞电影工业也纳入这个标准，他们用这类技术生产电影，思考怎样能让数字演员像真的，但又不落入恐怖谷。这是机器人实验室里出现的理论思考，而这个理论思考背后，也有很多关于人和机器的关系、人的伦理如何被纳入机器人设计的思考和讨论。伦理这个问题经常被大众探讨，尤其是有一些事件发生的时候。例如埃隆·马斯克的Grok系统，前一阵突然冒出了白人至上主义、种族主义特征的语句，大家会问“你怎么能让你的AI系统说这样的话”。但我认为，最大的问题不是AI系统，而是我们人类自己的伦理思考不到位。我们自己尚且没有解决种族主义、白人至上主义这些巨大的社会问题和心理问题，凭什么把它转嫁给AI系统？AI反照的是我们自己，让我们得以重新审视什么叫人类的能力。

全场留影

【直播回放】刘禾、汪晖和格非谈数字时代和人的未来