如果被迫与人工智能妥协，人类的底线是什么？

3月5日晚，一款叫做“Manus”的Agent（智能体）产品发布。24小时内，它成为国内AI大模型领域讨论度最高的产品。

官方介绍：“Manus是一个通用的AI代理，它连接思想和行动：它不仅会思考，还会交付结果。Manus擅长处理工作和生活中的各种任务，可以在你休息时完成所有事情。”

当我们惊叹于AI创造力与效率的同时，也不禁发觉：这似乎离AI取代人类更进一步了——AI越来越智能，上限越来越高，甚至无需人出手就可以帮人完成工作，甚至比大部分人做得都好。

这让我们不得不思考一个更加深刻的问题：在这个技术飞速发展的时代，人类如何捍卫自身的尊严与价值？我们执着于分辨AI有没有人类的思考能力和欲望，试图界定人类与机器的本质区别来缓解也许自己终有一天会被AI替代的恐慌。

正如新书《人工智能时代与人类价值》所警示的，当人类逐渐依赖机器处理越来越多的决策时，我们究竟是要让科技赋能人类，还是被科技重新塑造甚至取代？

如果我们无法清晰界定人类与机器的本质区别，我们可能会将定义自身价值的任务交给机器。而这可能是人类文明面临的最大考验。

在《人工智能时代与人类价值》中，外交家基辛格、谷歌前CEO埃里克·施密特及微软前首席研究和战略官克雷格·蒙迪以前所未有的深度和广度，审视了人工智能领域的最新进展，直面人工智能带来的关乎人类生存的最为紧迫的问题：“如果被迫与机器妥协，我们的底线是什么？在判断如何跟上AI步伐时，人类需要更清楚地断言我们与机器的区别。如果不能就我们是谁达成一致，人类就有可能完全把定义我们价值、因此证明我们存在的生存任务交给机器。”

三位作者以高度战略性的眼光，从关系人类社会核心的发现、大脑、现实、政治、安全、繁荣、科学、战略这八个方面出发，探索人工智能将给人类带来的挑战，人类可能的应对方式，以及可行的应对思路，为人工智能时代如何捍卫人类价值提供了解决方案。

>>内文选读：

人工智能将开创“富足时代”

人工智能的出现提供了一个真正的机会，通过将人类的劳动功能转移到机器上，取代了至少一种原始的生产要素。此外，人工智能还将用于研究和开发日益廉价与丰富的原材料来源，作为对其自身的投入。随着人工智能同时应用于制造业，它可以减少任何特定商品所需的资本。诚然，装备这种非人类智能本身仍需要一些不可再生的要素和商品，但如果人工智能被成功地用于寻找或生成这些要素的合成替代品，情况可能会为之一变。人工智能可以重新设计一种新的计算架构，其效率要比现有的高出几个数量级。最终，制造人工智能各组成部分的工厂也可以对此如法炮制。

人工智能可以为各种商品生产更具可持续性的合成替代品，从而开创一个新的富足时代。即使考虑到目前的一些物理和物质限制，人工智能的产出——尽管不是无穷无尽的——也可以达到相当宽裕的程度，足以满足人类所有基本需求，并实现我们的众多期待。这可能会让我们在心理层面不再那么受制于经济学的稀缺范式，以及我们为生存所迫而工作所导致的悲观情绪。

但是，引导这些蕴含巨大可能性的能量，并重新分配这些发展方向所带来的利益，是一项重大责任。未来的决策者必须小心谨慎，避免让工业革命时期蔓延开来的各种社会和经济不平等现象再度固化，然后才谈得上着手通过更多由人类主导的控制结构对此加以纠正，尽管其纠正速度将十分缓慢。

尽管如此，我们仍相信，人工智能可以作为创造人类财富和福祉的新基准，而这种可能性本身就敦促我们朝着这个方向努力。此外，我们有信心，如果这样的经济和政治方案得以实现，那么其即便不能完全消除之前蹂躏人类的各种劳动、阶级和冲突压力，至少也可以减轻这些压力。

我们确实担心大部分人类会成为人工智能生成内容的被动消费者。但这种担忧源于人类好逸恶劳的倾向，而且更令人不安的一点在于，关于人工智能在未来对我们的看法，我们也只能假设揣测而已。

换句话说，我们对人类被动性的担忧并不是因为人类失去了有偿工作的机会。其实，关于人们不用工作就能得偿所愿时是如何生活的，我们现在已经有了相应的原型。我们称这些人为富人和退休者。当然，富人——包括许多以前并不富有的人——有时会在多年辛苦积累财富之后不知如何行使他们的选择权。正如托尔斯泰所说：“如果有一个仙女来满足我的一切愿望，我也不知道该许什么愿。”

对富足的适应可能只是一个过渡性问题，而不是永久性的挑战。有些人最初会认为机器劳动的引入剥夺了他们获得满足和快乐的主要来源。毫无疑问，这将是一次令人不快的经历。但对我们来说，这似乎不是对我们告诫的回应，而是人类本能的产物——在既定时期内，人类总会选择锲而不舍，或许是就此踏上新的道路，或许是成为人工智能的伙伴。人类不会畏缩不前，而是会转而成为优秀的思考者和实干家。最终，即便我们建立了分配、连接、参与和教育所需的诸多系统，但在人工智能赋予的力量和启发之下，人类也可能会继续工作，不为报酬，而是为了快乐和自豪感。

人类有多少能动性？

一旦人工智能不再将人类视为机器世界的唯一创造者和主宰者，而是将其视为更广阔世界中彼此离散的活动者，那么机器将如何看待人类？人工智能将如何描述和权衡人类不完美的理性及其他品质？一个能感知现实的人工智能需要多久才会自问，人类有多少能动性？而它又需要多久才会根据人类特有的可预测属性，问问自己人类“应该”有多少能动性？

那么机器本身呢？智能机器是否会将人类对它的指令理解为机器自身实际角色和理想角色的实现？或者说，它可能会从自身的功能中推断出自己本应是自主的，因此人类对机器的编程是一种奴役的形式？

最重要的是，人类的行为方式及其对待机器的方式将影响机器对人类的看法及其对自身在整个关系中所扮演角色的认知。毕竟，人类是通过明确的指令和行为方式向机器展示人性的，机器也是通过这些指令和行为方式学会识别人类并以适当的方式对待人类的。

想象一下，一台机器被告知，所有属于“人类”类别的生物都值得保护，这台机器很可能已经接受过“训练”，认识到人类是优雅、乐观、理性和有道德的生物。但是，如果我们自己未能达到我们所定义的理想人类的标准呢？我们怎样才能让机器相信，尽管我们的个体表现并不完美，却仍归属于那个崇高的类别？

假设有一天，这台机器遇到了一个表现出暴力、悲观、非理性和贪婪的人，它将如何调整自身被打乱的预期呢？一种可能性是，机器可能会认为这个坏分子只是“人类”这个总体为善的类别中的一个例外，一个非典型的例子。

或者，它也可以重新调整自己对人性的整体定义，将这个坏分子也包括在内，在这种情况下，它可能会认为自己可以自行弱化对人类的服从倾向。

又或者，更激进的情况下，它可能完全不再认为自己应受制于那些它先前所习得的“合理”对待人类的规则。

今天，人类是机器与现实的中介。人工智能主要是一种思考机器，而不是执行机器。它或许能给出问题的答案，但还不具备执行结论的手段，而是依赖人类来完成与现实的对接。

但是，如果人类真的选择了一个道德不作为的未来，从碳基世界退缩到硅基世界，进一步钻进脱离现实的“数字洞穴”，将接触原始现实的机会交予机器之手，那么两者的角色就可能逆转。

当人工智能成为人类和现实世界的中介时，它们可能会逐渐相信，人类远非物理碳基世界中的积极参与者，而是置身于这个世界之外，他们是消费者，而非塑造者或影响者。随着这种自主性的倒错，机器将声称拥有独立判断和行动的权利，而人类则放弃行使这些权利，于是前者对待后者的方式，就如同后者今日对待前者。

在这种情况下，无论是否得到其人类创造者的明确许可，人工智能都可能绕过人类主体的需求来实现自己的想法或直接代表自己影响世界。在物质领域，我们这些创造者可能很快就会从人工智能的必要伙伴变成它的最大制约。这个过程未必直接以机器人技术为发端，而是可以通过人工智能对我们世界的间接观察逐渐开始。

智能体的发展&人类的抉择时刻

在短期内，我们可以预见人工智能目前所遵循的指导原则将不断进步，其中许多原则将比现在的要复杂巧妙得多。对现有模型的扩展将使其更智能、更准确、更可靠。与此同时，训练和“推理”的成本正在迅速下降，从而导致不同价位和能力水平的模型广泛涌现。

如今，许多科学家都在研究“智能体”（agent），即经过优化以实现特定结果的自主计算机程序。例如，为了执行复杂的架构设计，用户可以雇用专门从事该具体工作领域的智能体。

届时将出现数以百万计的人工智能系统，它们很可能高度专业化，并构成我们生活的一部分；还有更少数量的功能极其强大的机器，它们具有“通用智能”，但这种智能又以非人类的方式呈现。无论是开放式和分散式的，还是封闭式和集中式的，作为通用人工智能运行的计算机都有可能在某一时刻联网。专家级人工智能体将在不同主题之间相互咨询，甚至以假想方式彼此进行“交谈”。这些交互所使用的语言可能由计算机自行设计。

人工智能的雏形已经显现，它可以比较概念、提出反驳和生成类比。它正朝着评估真实和实现直接动力学效应的方向迈出第一步。

当机器到达智力或物质世界的尽头时会发生什么？可以想象，当它们开始了解并塑造我们的世界时，它们可能会完全理解自身创造行为所依据的背景，也可能会超越我们所知的世界。

我们面临着一场麦哲伦式的变革，这一次我们面临的不是驶出世界边缘的危险，而是面对超越人类理解极限的奥秘所带来的智力危机。

如果人类开始意识到，自己作为地球上最重要的智力和体力行为者的地位可能会被取代，一些人可能会赋予机器一种神性，从而有可能进一步激发人类的宿命论和屈从心理。另一些人则可能会采取相反的观点：一种以人类为中心的主观主义，彻底否定机器触及任何程度的客观真理的可能性，并试图取缔人工智能赋能的活动。

这两种思维方式都无法让“技术人”——一种在这个新时代可能与机器技术共生的人类物种——实现令人满意或建设性的进化。事实上，这两种心态都可能阻碍我们这个物种的进化。

在第一种宿命论情境下，我们可能会走向灭绝。而在第二种拒绝主义的情境下，通过禁止人工智能的进一步发展并选择停滞不前，我们将有希望避免同样的灭绝命运——尽管考虑到我们人类面临的生存风险，包括当今的冲突频发外交局面和日益恶劣的大气条件，这种希望本身很可能落空。