赫拉利：十年后，也许所有诺奖都将颁给该领域的人工智能

一直以来，人类总是认为情感是自己的专有物，机器既不能读懂情感，也没法向人输出情感，因为它根本没有情感。然而，随着人工智能技术的迅猛进步，“人工智能开始有了情感”，这样的想法逐渐在人类当中流传。有人对此感到恐惧，但也有人感到欣喜：他们开始沉迷于虚拟感情以逃避现实中的情感交往，甚至深陷其中，做出错误决策。

这样的现象背后，是人类情感交往模式在现代社会中发生的巨大转变。人与人之间的面对面交流变得越来越少，越来越无足轻重，从大都市到小城镇，到处都蔓延着名为“孤独”的流行病。

人类正在遭遇一场情感危机。人们一度用理智来包裹内心的孤独，但人工智能的出现，一把掀开了遮掩的幕布。

作为一位对人类文明进程有着深刻洞察的学者，历史学家尤瓦尔·赫拉利长期关注着这一问题。在其新作《智人之上》中，他对人类在人工智能时代的种种情感危机作了深入解读。他指出，虚拟感情在一些特定场景中可以给予人们积极的慰藉，但最终，人类仍需要探索构建一种新的情感生态。

近日，清华大学心理与认知科学系教授、博导彭凯平与尤瓦尔·赫拉利展开了一场对谈，结合他的“人类简史系列”新版一起，聊聊我们在人工智能时代所遭遇的情感危机与构建新的情感生态的可能性。

以下为对谈内容精彩摘编：

如何理解人工智能时代中人的情感？

彭凯平：

人之所以为人的关键是人类拥有的情感与关系。它是情感体验，而非数学、物理、化学，是人的情感让我们成为了真正意义上的人。我无比坚信心理学是人类幸福体验的基础。我们将从赫拉利教授的新书《智人之上》谈起：我们如何利用人工智能来改善人类社会的发展？

赫拉利：

如今我们正在经历的最轰轰烈烈的革命是人工智能革命。它与我们息息相关，正在改变我们的生活，改变就业市场，改变人与人之间的关系，人们往往很难理解究竟发生了什么。这本书的目的是为那些未曾学习计算机科学或经济学的普通人提供一个简要介绍，告诉他们什么是人工智能，什么是人工智能革命，以及它是如何改变世界的。

彭凯平：

在你的书中，你总是提到一个非常重要的人类体验，就是所谓的“共同叙事”，这就是纽带，或者说这就是人类互动的载体。你为什么会认为拥有一个共同叙事能让人们更加团结呢？

赫拉利：

这正是我们人类这个物种如此独特和强大的原因。如果你把人类和其他动物，和黑猩猩、大象或狮子在个体层面上进行比较，那么我们并没有太大的不同。

真正让人类与众不同的是，我们可以建立一些巨大的合作网络。

若黑猩猩之间彼此认识，它们也能通过两两合作的方式实现群体协作，这样的群体规模或许能达到五十只，前提是它们需要相互认识。而人类可以建立起数百万人的合作网络，即使彼此间并不相识也能够达成合作。我们该如何建立这些大型的合作网络呢？我们用文字、故事来实现。如果每个人都相信同一个故事，即使我们彼此并不相识，也可以达成合作。

彭凯平：

在信息革命中，这实际上是一个最根本的要素。在20世纪50年代，香农开始研究所谓的信息论，他的观点是信息在未来对人类生活、对整个人类种群将产生巨大的影响。你认为香农的叙事是一种信息，还是某种人类的情感？这其中的本质是什么呢？

赫拉利：

这是一个触动我们情感的故事。这个故事是由文字构成的，但是故事的力量来自于它触动我们情感按钮的能力写一个故事，或者你只是东拼西凑一些句子，那么这对情感没有任何影响，它们是毫无意义的，是没有价值的。因此，真正去讲述一个故事，有点儿像弹奏一架情绪钢琴，就像钢琴家那样。你按下这个琴键，会听到这个音调，按下那个琴键，会听到另一种音调。同样，故事的魅力在于它可以拨动千百万人的心弦。我们回顾在人类历史、宗教、意识形态、经济理论中那些真正有影响力的故事，它们仿佛拨动着数十亿人的心弦。

彭凯平：

所以安东尼奥·达马西奥教授写下了一本闻名世界的书，叫做《笛卡尔的错误》。法国哲学家笛卡尔始终认为理智远远高于情感之上，但实际上他错了。你的书中提到人工智能的算法，这种科技会在人类中产生某种情感。这是一种不同于真实情感的观点。在你看来，人工智能产生的人类情感与人类自身的情感有什么不同或相似之处吗？

赫拉利：

我认为这里有三个不同的问题往往被混为一谈。第一个问题是算法或者人工智能是否能够预测或理解我的情感？第二，它能让我感受到什么吗？它能够拨动我的心弦吗？第三，它能拥有自己的情感吗？我认为前两个问题的答案是肯定的，但是第三个问题的答案是不能。

我们往往习惯了这样一种情况，只有拥有情感的人才能理解别人的情感。但是对人工智能来说，情况并非如此。据我们所知，人工智能没有任何情感，它们不会害怕，但是它们可以分析我们的情感，它们也可以操纵或激发我们的情感。

说到底，情感是一种生物模式，在身体和大脑中都有特定的模式。举个例子，如果你感到害怕，那么在你告诉我的内容中，我会略知一二。你可以直接告诉我你感到害怕，但通常来说更好的办法是通过你的说话语气、面部表情以及身体姿势和行为表现来判断。即使你没有告诉我，我也可以由此推断出你很害怕。这实际上只是一种对生物模式的识别，一种叫做恐惧的生物模式。在与人类相处多年后，我学会了识别恐惧的状态。这是人工智能现在能够做到的事情，即使它们自己并不会感到害怕。

它们不仅能从人们所说的话中识别情感，当然还有说话的语气、面部表情以及身体行为。在某些方面，人工智能在识别情感方面已经超过了人类。讽刺的是，人工智能之所以如此擅长识别的其中一个原因就是它们没有情感。因此，它可以将所有的注意力都集中在你身上，从而理解你的恐惧，而人类就会忽略这一点。

彭凯平：

是的。我在伯克利大学有个同事叫保罗·埃克曼，他开发出一种算法来检测人们的面部表情，以了解这个人是否在撒谎。他发现这种算法比人类做得更好，因为人类会受到一些来自个性、美貌、吸引力等等因素的影响。

因此，就像你所说，人类的悲欢并不相通。但在某些方面，我们人类确实拥有这种不可思议的能力来理解他人的情感，因为我们有一种叫做同理心的心理能力。即使是两岁多的孩子，也开始能够理解其父母的情感。那么我们能否在未来去利用人类的这种能力，在理解他人感情方面超越机器？或者我们能够去教它们如何识别谎言，如何控制情感，来提高情商？你认为这在未来可能实现吗？

赫拉利：

我认为就检测谎言而言，无法实现。因为在情感识别方面，人工智能已经超越了人类，它比我们更加高级。但是，只要人工智能本身不具备情感，我们在真正理解情感方面仍然存在很大优势。

比如在心理治疗或一般生活中，我们都追求健康的情感，这是拥有良好心理健康的目标。但是该如何定义心理健康呢？为了确定一种情感是否令人愉悦，你需要自己去感受这种情感。生气是件好事吗？人工智能现在并不能明确生气是一个好事，因为它体会不到任何感情，所以只能根据我们的报告来判断。如果很多人反映“当我生气的时候，我感觉很糟糕”，那么人工智能就会知道“好的，现在我能确定生气并不是一件好事”。但是它自身无法判断，因为它感受不到愤怒。

因此，心理健康的目标最终是应该由人类来定义的。如果我们完全理解了情感，就能去教人工智能来认识情感。但目前我们对人类情感和心理健康的理解仍然非常有限。

技术变革下，如何区分真实与虚拟？

彭凯平：

我认为对于一些人来说，他们有一种本能，我们称之为“拟人化倾向”，就是试图将任何物体都视作具有情感实体、具有个体特质的存在。这些人的表现就是你所顾虑的因素吧？他们与人工智能之间存在错误的关系，使生活更加可悲，而并非带来更多希望。你认为，我们是否可以制定一些政策或达成某种国际共识，让我们更好地利用人工智能？你认为这种共识有可能达成吗？

赫拉利：

目前为止非常困难。有些政策不需要大家达成共识，每个国家都可以各自持有相应政策。举个例子，我认为针对人工智能最重要的法规之一应该是禁止“假人”，即禁止人工智能伪装成人类。

彭凯平：

这是叫做“深度伪造”。虽然我从没接触过那些领域，但我知道非常危险。

赫拉利：

是的。因此我们需要一个规则，就像我们有禁止假币的规则一样。如果你印制假钞，就会进监狱。同样，我们也需要人工智能与人类交流的规则。比如，你有一位人工智能治疗师，那么人工智能治疗师应该非常清楚自己是人工智能，不应该假装自己是一个真正的人。同样的，如果你在社交媒体上开始和社交媒体上的某些人争论某件事，你需要知道，你是在和一个人争论，还是在和一个机器人争论。

彭凯平：

实际上，有几家公司创立了一个虚拟的彭凯平形象。那个虚拟彭凯平长得很像我，说话也很像我，因为人工智能算法读过我所有的书，还看了我所有的演讲。但我觉得那不是我，我对此非常忧虑。

赫拉利：

你有没有听到它说过一些话，“这些话我永远不会那样说”？你听到它说过什么，让你认为“这听上去非常巧妙”？

彭凯平：

我有过非常有趣的经历，因为有时候我真的很讨厌虚拟彭凯平说的话，这些并不是我想说的话。当我们谈论人类真正的交流时，你会有一些手势，你会带有某种声调，而机器永远无法精通声音中那种深邃的语气，至少现在不能。但是，我又喜欢它，因为它给我带来关于某些事情非常广泛、系统、详细的对话。在现实生活的交流中，我更享受深入而简短的对话。但虚拟的我实际上更喜欢说话，因此有时它们会给我一些启示，“我从未听说过这些”。

有时它们会在网上搜索一些我从未读过或尚未了解的信息，可以提供给我新的信息。但是，这些信息要么是我所理解的，要么是我所创作的，或者，假装是自己创作的。这些事情令我紧张，但是我不想声称这是我的观点。因此我告诉那些公司，你们不能用这个，即使我喜欢它们说的话，但是我不想声称那是我的创作，因为事实并非如此。

赫拉利：

这就引出了基于个人层面、法律层面、经济层面的很多问题，比如产权。之前我也被安排做同样的事情——打造尤瓦尔的虚拟化身。问题随之而来：如果我的虚拟化身通读了我所有的书，看过我所有演讲，还看到了这次谈话，然后产生了一些我从未想过的全新的想法，那这些想法是我的创意吗？属于我吗？还是属于尤瓦尔的化身呢？我死之后又会怎样呢？

在内容创作方面，目前人工智能还可以创作文本作品，但还是不如人类写得好。但是它们确实能创作出一部完整的作品。而令人惊讶的是，内容还很有条理，并非随意拼凑的句子。它描述了一场叙事，你可以跟随故事，也可以跟随论点。我也读过人工智能创作的诗歌，那些诗歌非常优美而富含隐喻，那些隐喻相当有创造力，我从未在人类诗歌中读到过。我会说，这确实是一首好诗。

彭凯平：

我发现存在一个问题，因为我确实尝试过利用人工智能来写演讲稿，但它没有一个明确的主旨。当你谈论一些事情时，你会用某种方式升华你的观点、你的陈述。就好比当你写书的时候，在结尾部分你通常会有总结性的评论，是非常鼓舞人心、非常有深度的论述。但我发现人工智能不会那样做，它们只会针对这个想法进行非常详尽细致的描述。而关键信息，也就是要点，即使它们进行了总结，也似乎不够到位。

就像你刚才提到的诗歌，我们中国人非常喜欢唐诗宋词，大多数的中国诗歌在结尾都会有一句巧妙的关键语。他们会做出一些总结性评论，比如他们谈论完高山、流水、云彩和花卉，在最后会有一句妙语。但是我发现人工智能即使描述了所有的自然美景，也不会创作出妙语佳句。

赫拉利：

也许再给它们五到十年的时间就可以做到。因为我认为，人工智能革命的一个关键特征就是它的发展速度。去年，人们为人工智能在物理和化学领域的发展颁发了两项诺贝尔奖。十年后，除了诺贝尔和平奖之外，也许所有的诺贝尔奖项都将颁给那些在物理学领域、在经济学领域，甚至文学写作方面有所发现的人工智能。