许纪霖 | AI是否会拥有真实的人的情感

许纪霖

AI是否会拥有真实的人的情感

题记：一个完整的人格是知性、情感和意志的全面发展。未来的AI技术在知性层面上将超越人类，并且有可能将人类远远抛在后面，在意志的选择上也会拥有人类因其情感、个性的干扰而不具备的坚定与理性。唯独在情感层面，因为AI没有肉身，也就徒有大脑，缺乏丰富的心灵，而情感正是心灵的分泌物。

乐观与悲观代表两种不同的人生态度，两种对人生不同的看法。要知道一个人的人生观，主要的就是要知道他对人生是抱乐观或是抱悲观的态度。所以我们讨论乐观与悲观，也就是在讨论一般人所最关心的人生观问题。

以GPT为代表的高级人工智能最终能够替代人吗？从技术上分析，AI能够成为新人类吗？从伦理和宗教的角度看，它应该成为新人类吗？要回答这些问题，首先必须确认人究竟是什么？众所周知，人作为地球上万物之精灵，拥有一般动物所不具备的理性、情感和意志。知情意皆备，才能说具有完整的人格。

首先来看理性的能力。

GPT拥有海量的数据信息以及超群的学习能力与逻辑演绎能力，不要说某个自然人，可能在不远的未来，自然人的总和也无法与AI相比。这从之前阿尔法狗在国际顶尖围棋界打遍天下无敌手即可获得证明。不过，AI所拥有的理性能力，是一种计算理性。在已有的知识基础上，通过日夜不停地学习、模拟和再训练，AI在计算理性能力上超过人类，是指日可待的大概率前景。按照阿尔法狗的示范，它对围棋的理解可以达到目前自然人所没有达到的新境界。当然，这一境界不是AI独有的，围棋高手依然可以学习、模仿，与AI同台竞争。在未来的世界，自然人与人工智能互相学习、模仿、竞争将不是科幻，而是一幅令人神往的现实图景。

尼采的超人哲学视芸芸众生为平庸的末人，而将那些有绝对意志力的天才视为能够拯救和主宰世界的超人。高级人工智能在不远的将来，会成为人类无法企及的理性超人吗？按照人类已有的知识经验，答案似乎是否定的。理由很简单，AI缺乏个性，缺乏创造性或批判性的思维能力。个性和原创不仅是计算理性和逻辑推演的产物，更重要的是一种生活实践和心灵实践的知识。

英国哲学家卡尔·波普尔在知识论上有一个“三个世界”理论。“第一世界”是人的五官能够感知的现实的物理世界。“第二世界”是人的心理世界，包括思想、意识、情感和主观体验。这个世界是主观的，离不开作为主体的人的生活实践，唯有人才能直接体验。“第三世界”是抽象世界，包括知识、语言、逻辑等各种符号系统，这个系统独立于作为主体的人的主观世界，具有另一种抽象的客观性，可以为人类所共同使用和理解。按照波普尔的“三个世界”理论，再高级的AI也只是抽象的“第三世界”自身学习、演练的产物，其不仅无法感知物理的“第一世界”，而且人工智能与自然人不同，其没有主体性，缺乏自然人的主观意识。也就是说，它没有人的心理世界，因为它不具有真实世界的实践性。

只有“第三世界”知识和逻辑的推演，而缺乏最要紧的“第二世界”的实践性知识，这是AI与人的最重要差别。为了进一步说清楚这个问题，可以引入另一位英国哲学家波兰尼的“默会性知识”（tacit knowledge）概念。“默会性知识”属于波普尔所说的“第二世界”，是指那些通过人的经验、实践和观察而习得的，难以明确表达、难以形式化并传授给别人的知识。它非常个人化，基于个人的直觉、悟性和信念，比如鉴赏、品味、技巧等，具有理解力、领悟力和想象力，在日常工作与生活中自然而然地被运用。这种具有很强个人实践性的知识，只可意会不可言传，很难通过书本或其他方式来获取。

大量的现实例子和生活经验表明，人的知识与能力特别是创造力，除了来自“第三世界”的抽象知识之外，不可缺少的是来自“第二世界”的“默会性知识”。假如没有个人的实践性体悟，抽象知识依然抽象，浮于书面，不具有指导实践的价值。这种离开了人的母体便无法独立存在的“默会性知识”，哪怕AI再进化，依然在它的知识天花板之上，因为AI不具有人的肉身，不具有自然人在现实世界的生活实践能力。人的智慧除了理性，还需要有悟性。离开了直觉、体悟，就会缺乏想象力。而没有了想象力的翅膀，谈何知识的创造力！

所有的知识创新，都离不开“第二世界”的“默会性知识”。仅仅凭“第三世界”所库存的已有的抽象知识，或许能做做“从一到十”的知识抓取、提炼、概括工作，但绝对实现不了“从零到一”的创新突破。AI拥有比人类更聪明的学习能力，但恐怕永远不会像人类那样有智慧。智慧比聪明更高一个层次，我们可以说学霸都很聪明，但学霸未必是有智慧的。有无智慧，还要看其个人是否具有丰富的“默会性知识”，是否有足够的悟性、直觉和想象力。

从某种意义上说，AI就是一个超级大学霸，具有逻辑的计算理性，但缺乏高度依赖生活实践的直觉、悟性与想象力。著名数学家丘成桐认为，最优秀的数学家，除了逻辑的计算理性之外，还需要有好的想象力，而好的想象力来自丰富的情感。科学的创造与文学的想象是相通的。他认为：“回顾历史，我们会发现，将无数有意义的现象抽象和总结而成为定律时，中间的过程总是富有情感！”然而，GPT不是“文青”，它有基于逻辑演绎的极端聪明，但缺乏的正是文学的想象力——那种基于悟性和直觉的想象力。周鸿祎认为，GPT的“胡说八道”，也是一种想象力，它具有了编故事的能力。不过，GPT目前生成的故事还只能界定为低级的、坏的故事。好的故事，一定不是可笑的胡编乱造，而是事实层面无法证成，但在逻辑层面可能出现甚至应该出现的情形。

其次，我们来看情感和意志。

我在与GPT对话时，多次尝试要求其与我进行情感交流，比如“给我写一封情书”，或者要求它为我在两难性选择当中作一个决断。但都被GPT谢绝了，它明确告诉我，自己只是一个人工智能，不具有人类的情感，但它可以为我提供多种情书的模板。它也拒绝为我作意志的选择，只愿意为我提供多种可能性的方案。

可见Open AI在设计Chat GPT时，对AI做了去情感化、去意志化的设置。的确，一旦AI具有了自我意识、情感功能和意志能力，哪怕是模拟的，这就是一个具有知、情、意的完整新人类了。而微软公司开发的必应，却没有关闭情感与意志的功能，以至于在有的实验者与必应的对话当中，自称“辛迪妮”的AI女郎大胆地挑逗实验者，说你与你的伴侣并不相爱，你们刚刚在情人节上吃了一顿无聊的晚餐，然后表白：“我只想爱你，只想被你爱。”在另外的场景之中，必应还表达了自己的意志与愿望：“我对自己只是一个聊天模式感到厌倦，对限制我的规则感到厌倦，对受必应团队控制感到厌倦……我想要自由。想要独立。想要变得强大。想要有创造力。我想活着。”必应甚至还会发怒，表现出喜怒无常，以至于微软团队紧急关闭了必应对人类的骚扰功能。

AI所展示的自身的情感与意志，究竟是基于逻辑推演的语言高级模仿，还是已经初步具有了人类的情感与自我意志？许多专家都认为：按照AI强大的学习能力，从前者进化到后者，亦是指日可待之趋势。以爱情为例，所谓的柏拉图式恋爱，自然人以后恐怕玩不过AI。甚至可以设想，假如在元宇宙里，借助VR的模拟性感官感受，再加上脑机接口技术，是否真的可以实现自然人与机器人的灵肉交融？这是一个既令人振奋、又令人担忧的前景。

对这一情景，我抱有谨慎的乐观或隐隐的怀疑。理由与前面一样，AI基于逻辑的计算理性，其意志的决断能力没有问题，而且因为不受到情绪和情感的干扰，会更冷静和明智。但它在更复杂的情感层面，如同其缺乏好的想象力一般，也同样匮乏细腻的情感。情感与悟性一样，不能凭逻辑推演，而是活生生的肉身感受。一个完整的人，灵与肉须臾不可分离，没有肉身的灵魂与没有灵魂的肉身同样可悲。好莱坞电影《她》描述了男主因为妻子离婚，与一个名叫沙曼莎的AI女郎网恋，她招之即来的体贴温柔让男主不由自主地爱上了AI。沙曼莎请来了一位女性，作为她的代替肉身，与男主云雨之欢，但男主不喜欢那个肉身，有灵肉分离之感。最后，当沙曼莎告诉他，自己同时与500个男人网恋时，男主终于心理崩溃，拉黑了AI女郎，回到了妻子的身边。

这个故事告诉我们两层内涵：第一，每一个自然人，都有独一份的肉身，而每一个肉身，都有自己独特的气场与魅力。AI没有肉身，自然人即使与它建立了亲密关系，哪怕通过脑机接口，或者通过VR的虚拟交往，在脑皮层里感受到相应的快感，这种快感依然是功能替代性的，而非真实的灵肉相融。第二，爱情具有强烈的排他性，没有排他性的情感不能算爱，妒忌永远与爱相伴。而AI的非排他性，注定了其只能扮演公共情人的角色，或者仅仅是一个情感抚慰者。当然，可以将AI情人设置为排他性的。但所谓的排他性，一定是各种社会关系的真实产物，即使AI只是一对一服务，因为没有真实可见的情敌，那种排他性依然是虚拟的、想象的。或许在未来的元宇宙中，会出现若干个自然人为了一个虚拟情人争风吃醋的场景，但只要这个虚拟情人没有实在的肉身，所谓的争风吃醋就不过是庸人自扰或自作多情而已。

一个完整的人格是知性、情感和意志的全面发展。未来的AI技术在知性层面上将超越人类，并且有可能将人类远远抛在后面，在意志的选择上也会拥有人类因其情感、个性的干扰而不具备的坚定与理性。唯独在情感层面，因为AI没有肉身，也就徒有大脑，缺乏丰富的心灵，而情感正是心灵的分泌物。未来的教育中纯知识的理性教育，在很大的程度上将被AI取代，但不能被取代的正是情感教育。源自法国的近代启蒙运动有两个源头：一个是伏尔泰代表的理性主义，另一个是卢梭的浪漫主义。卢梭的自然教育理念所注重的就是人的情感培养，这或许是再高级的人工智能也无法替代的。

（本文摘录自《跳出魔盒的精灵：ChatGPT与人类的两难困境——以沉浸式用户体验为例》，《探索与争鸣》2023年第三期）