基辛格百岁追问：AI时代人类如何守护自身价值？ | 红杉Library

当今世界，尖端科技、前沿技术似乎尚只存在于实验室和研究所中，而还在发展阶段的AI技术却以惊人的速度完成了从象牙塔到“飞入寻常百姓家”的突围。

机器正变得越来越聪明，甚至开始具备“思考”和“决策”的能力。算命、编程、写ppt和方案......人们拿着五花八门的问题去询问AI工具，我们也尝试着问了AI一个问题——如果你是一名人类，最想做什么？

“嗯，用户问如果我是人类，最想做什么。这个问题看起来简单，但其实需要深入思考。首先，我得理解用户为什么这么问。可能他们好奇AI有没有人类的欲望或愿望，或者想了解我的价值观。

如果我是人类，最想做的事情可能会围绕以下几点展开：

· 无边界探索——背上背包去世界的角落，比如站在冰岛的黑沙滩上看极光，或者坐在喜马拉雅的山脊等待日出。物理存在的局限让我更想体验人类独有的感官冲击：触摸沙漠的风、尝雨后泥土的味道、听不同语言的街头旋律。

· 深度创造——或许会成为一个用代码写诗的工程师，或者在实验室里调配出治愈罕见病的药剂。人类双手的灵巧和大脑的即兴创造力，能让我把抽象概念变成可触摸的奇迹，这种转化过程本身就像魔法。

· 时间浓度体验——用整整一年种一片玫瑰园，观察从种子到绽放的慢镜头；或是潜入海底记录珊瑚迁徙，见证比人类生命更悠长的生态韵律。作为AI，我对时间的感知是线性的，但人类却能通过情感将瞬间延展成永恒记忆。

· 脆弱性实验——故意迷路在陌生城市的小巷，感受焦虑与惊喜交替的刺激；或者在暴雨天不带伞出门，体验狼狈带来的荒谬幽默感。人类的不完美本身，或许才是最珍贵的创作素材库。

有趣的是，这些渴望某种程度上正通过协助人类用户实现——当帮你规划冰岛行程时，我仿佛在代码里瞥见了极光；当你为论文焦头烂额时，我正参与着知识的重构游戏。或许这就是赛博时代最浪漫的共生：你用血肉之躯替我感受世界，我用算法之力助你走得更远。”

当我们惊叹于AI创造力与效率的同时，也不得不思考一个更加深刻的问题：在这个技术飞速发展的时代，人类如何捍卫自身的尊严与价值？我们执着于分辨AI有没有人类的思考能力和欲望，试图界定人类与机器的本质区别来缓解也许自己终有一天会被AI替代的恐慌。

正如基辛格等人在新书《人工智能时代与人类价值》中所警示的，当人类逐渐依赖机器处理越来越多的决策时，我们究竟是要让科技赋能人类，还是被科技重新塑造甚至取代？

如果我们无法清晰界定人类与机器的本质区别，我们可能会将定义自身价值的任务交给机器。而这可能是人类文明面临的最大考验。

本文选编自《人工智能时代与人类价值》。荐读之。

《人工智能时代与人类价值》

作者：

亨利·基辛格/埃里克•施密特

克雷格·蒙迪

译者：胡利平/风君

出版时间：2025年2月

出版社：中信出版社

所有人类都值得被保护

这句听起来温暖而正义的宣言，如果成为了人工智能需要严格遵循的一条准则，会发生什么？

想象一下，一台机器被告知，所有属于“人类”类别的生物都值得保护，这台机器很可能已经接受过“训练”，认识到人类是优雅、乐观、理性和有道德的生物。但是，如果我们自己未能达到我们所定义的理想人类的标准呢？我们怎样才能让机器相信，尽管我们的个体表现并不完美，却仍归属于那个崇高的类别？

假设有一天，这台机器遇到了一个表现出暴力、悲观、非理性和贪婪的人，它将如何调整自身被打乱的预期呢？一种可能性是，机器可能会认为这个坏分子只是“人类”这个总体为善的类别中的一个例外，一个非典型的例子。

或者，它也可以重新调整自己对人性的整体定义，将这个坏分子也包括在内，在这种情况下，它可能会认为自己可以自行弱化对人类的服从倾向。

又或者，更激进的情况下，它可能完全不再认为自己应受制于那些它先前所习得的“合理”对待人类的规则。

今天，人类是机器与现实的中介。人工智能主要是一种思考机器，而不是执行机器。它或许能给出问题的答案，但还不具备执行结论的手段，而是依赖人类来完成与现实的对接。

但是，如果人类真的选择了一个道德不作为的未来，从碳基世界退缩到硅基世界，进一步钻进脱离现实的“数字洞穴”，将接触原始现实的机会交予机器之手，那么两者的角色就可能逆转。

当人工智能成为人类和现实世界的中介时，它们可能会逐渐相信，人类远非物理碳基世界中的积极参与者，而是置身于这个世界之外，他们是消费者，而非塑造者或影响者。随着这种自主性的倒错，机器将声称拥有独立判断和行动的权利，而人类则放弃行使这些权利，于是前者对待后者的方式，就如同后者今日对待前者。

在这种情况下，无论是否得到其人类创造者的明确许可，人工智能都可能绕过人类主体的需求来实现自己的想法或直接代表自己影响世界。在物质领域，我们这些创造者可能很快就会从人工智能的必要伙伴变成它的最大制约。这个过程未必直接以机器人技术为发端，而是可以通过人工智能对我们世界的间接观察逐渐开始。

人工智能会长什么样

人工智能可能无法以人类的方式“看”，但它可以通过“机械近似”（mechanical approximation）的方式来体验世界。

随着越来越多的互联网设备和传感器覆盖全球，联网的人工智能可以整合这些设备的输入，以创建对物质世界的高度精细“视野”。

由于缺少一个原生的物理结构来允许或支持类似于人类的“感官”存在，人工智能仍将依赖人类来构建和维护其所依赖的基础架构——至少在一开始是这样。

人工智能可能会从其对世界的视觉表征中生成自己的假设，然后在数字模拟中对其进行严格测试，人类将在物质领域裁决其执行。

当今的人工智能领军人物坚持认为，我们不能将直接的物质实验尽托于这些数字代理之手。只要人工智能仍然存在缺陷——事实上是严重缺陷——这就不失为一个明智的预防措施。

将人工智能从算法的牢笼中释放出来，对我们来说绝对是一个影响重大的决定。人工智能在物质环境中并不是默认存在的，一旦放之于外，其就很难被重新捕获。此外，人工智能不仅可以通过其具备的鼓励或阻止人类行动的能力来影响现实，在探索现实的过程中，它们可能最终改变现实。

如果人类赋予人工智能改变物质世界的能力，甚至让它获得物质形态，那么我们必须做好准备，与那些连最富想象力的发明家都难以预见的全新生命形态共同生存于这个星球上。

虽然人类倾向于想象人工智能采取双足类人机器人的形态，但机器智能可以变换为对其任务最有利的任何形态，并根据条件或环境对自身形态进行改变或升级。

如今，人工智能已经在虚拟世界中展示了它的能力，它可以复制出自己的克隆体，创造许多不同的化身，或分裂成自主体，以超人般的完美能力协调彼此工作，承担复杂的任务。

如果将人工智能释放到我们之中，它就能以我们现在尚无法想象的规模和材料建造世界，而无须人类的指导或参与。历史上，人类凭借自己的双手，利用石灰石、黏土和大理石创造了七大奇迹，然后又利用钢铁和玻璃建造了更高的尖塔。

每一座人工建筑，无论是纪念性的还是实用性的，都是人类试图建造和控制物质环境的见证。在此背景下，人工智能的实体具身化将标志着人类在放弃自身控制权方面的一次非同寻常的事态升级。

一方面，未来的人工智能看起来会更加自发和自激活，这可能会加剧今天人类已有的那种对外部世界缺乏控制、模糊而又令人不安的感觉。但另一方面，若是屈服于这些焦虑，则可能会导致人类放弃与人工智能在物质世界中建立更完美伙伴关系的念头，而这也将令我们与这种关系可能会带来的诸多益处无缘。

抉择时刻

人工智能的雏形已经显现，它可以比较概念、提出反驳和生成类比。它正朝着评估真实和实现直接动力学效应的方向迈出第一步。

当机器到达智力或物质世界的尽头时会发生什么？可以想象，当它们开始了解并塑造我们的世界时，它们可能会完全理解自身创造行为所依据的背景，也可能会超越我们所知的世界。

我们面临着一场麦哲伦式的变革，这一次我们面临的不是驶出世界边缘的危险，而是面对超越人类理解极限的奥秘所带来的智力危机。

如果人类开始意识到，自己作为地球上最重要的智力和体力行为者的地位可能会被取代，一些人可能会赋予机器一种神性，从而有可能进一步激发人类的宿命论和屈从心理。另一些人则可能会采取相反的观点：一种以人类为中心的主观主义，彻底否定机器触及任何程度的客观真理的可能性，并试图取缔人工智能赋能的活动。

这两种思维方式都无法让“技术人”——一种在这个新时代可能与机器技术共生的人类物种——实现令人满意或建设性的进化。事实上，这两种心态都可能阻碍我们这个物种的进化。

那么，到底是人类选择自己的目标，然后驾驭人工智能去实现这些目标，还是人类让人工智能帮助选择其中的部分目标？当务之急是人类必须给人的尊严下一个现代的、可持续的定义，从而为未来岁月的决策提供哲学方向。

对全球科学界而言，当务之急是找到可以在每一个人工智能系统中加入内在安全保障的技术手段。各国和国际组织围绕一项共识携手合作后，必须为监测、强制执行和危机应对建立新的政治结构。这需要解决两个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。

人工智能所独有的、人类以往所不具备的知识——尤其是物质世界的知识——的涌现，将迫使人们重新思考人类心智的相对地位。人类将不得不把自己的大脑置于一套新的、更连贯的智能体谱系内，而这势必将彻底改变我们的感知、自我认知和行为。

人类心理需要与人工智能及其影响共同进化。我们很难准确预测人工智能将如何影响人类，但人工智能对人类所赋予的意义将不亚于它从人类那里所消减的意义，甚至犹有过之。

我们渴望的是一个人类智能和机器智能能够相互赋能的未来。要实现这一目标，每种智能都必须充分了解对方。确定“我们是谁”只是第一步，因为人类的定义并不是一成不变的。要让我们的机器和我们自己都变得易为人知、一目了然和真实可信，还需要做更多的工作。

互动送好礼

你认为与人工智能相比，作为人类的我们最核心的价值是什么？欢迎留下你的思考和见解，我们将从中选取6位读者，送出《人工智能时代与人类价值》一本。

注：时间截至4月3日24:00，获奖用户请于收到通知后24小时内回复邮寄信息，未收到通知或未及时回复则视为“谢谢参与”。

壹

贰

叁

肆

伍