基辛格：当AI的iPhone时刻来临，人类文明应该警惕什么？

内容来源| 本文摘编自中信出版集团书籍

《人工智能时代与人类价值》

亨利·基辛格、埃里克·施密特、克雷格·蒙迪 著

责编| 贾宁排版| 拾零

第 9408篇深度好文：3597字 | 9 分钟阅读

2025年春节前夕，中国人工智能领域悄然掀起一场革命。DeepSeek以557.6万美元的超低训练成本完成V3模型迭代，仅是OpenAI GPT-4o模型训练成本的不到十分之一。

同时，DeepSeek非常慷慨地公布开源策略，推动人工智能行业走向更加开放、合作的崭新时代。

这场技术突围恰似数字时代的“寒武纪大爆发”，不仅颠覆了“大模型必属巨头”的产业认知，更催化了全球AI竞赛格局的重构。

然而，自DeepSeek问世起，针对性的高强度网络攻击就不断爆发，给人工智能行业敲响了坚守安全底线的警钟；各种质疑和争议接踵而至，如DeepSeek与OpenAI之间的“蒸馏”争议，抛开行业竞争和地缘因素不谈，在某种程度上可以说是触及了AI技术的本质与“知识所有权”的伦理困境。

与此同时，OpenAI前首席科学家Ilya Sutskever的离职及其新公司Safe Superintelligence的融资估值突破200亿美元，再次将AI安全与伦理问题推上风口浪尖。

在新书《人工智能时代与人类价值》中，亨利·基辛格、埃里克·施密特与克雷格·蒙迪深入探讨了这一领域的深层次挑战。

书中警告，如果技术继续迅猛发展，而人类未能明确界定与机器的本质区别，我们可能会将决定人类价值的任务交给机器——这是人类文明面临的重大考验，值得每一个科技从业者和政策制定者深思。

一、消失的边界：大公司主导的世界

今天，拥有和开发人工智能的公司将积聚起可碾轧一切的社会、经济、军事和政治权力。各国政府则被迫成为私人公司的东道主和啦啦队长，运用自己的军事实力、外交资本和经济影响力促进本土利益。

与此同时，各国政府还扮演着平民百姓支持者的角色，而平民百姓则对垄断集团的贪婪和隐秘疑虑重重。夹在私人公司东道主兼啦啦队长与平民百姓支持者角色之间的各国政府被迫煞费苦心地左右应付。

这对矛盾也许无法化解。人工智能的问世将使任何既有机构的治理难上加难。与此同时，大公司或许会结成同盟，巩固已很强大的自身实力。这些同盟或靠互补优势和合并而起，或因对开发和部署人工智能系统有共同理念而兴。

这些公司同盟也许会承担传统民族国家的职能，不过不会去界定和开拓边界已划定的地盘，而是会深耕分散的数字互联网，把它作为自己的领地。

还有一种可能。如果对源代码的扩散放任不管，有可能会导致冒出一些小团伙或集团。它们拥有的人工智能足以胜任在有限范围内的治理、供给和自卫职能。

人类中的有些团体排斥现存权威机构，赞成权力分散的金融、通信和治理。这类团体也许最终会坠入人类之初那种原始无政府状态，抑或这类团体也许会掺入宗教因素。

就影响范围而言，基督教、伊斯兰教和印度教的影响毕竟超过了历史上任何一国的影响，延续时间也更长。在未来，宗教教派也许比国籍更能界定身份和忠诚。

以上两种未来无论哪一种，公司同盟主导也好，分散成为结构松散的宗教团体也罢，每个团体争取的新“地盘”将不再是以尺寸计算的土地，而是显示个体用户忠诚的数字设备。人工智能将颠覆传统意义上的公民概念。

对全球科学界而言，当务之急是找到可以在每一个人工智能系统中加入内在安全保障的技术手段。各国和国际组织一旦达成共识，就必须为监督、执行和应对危机建立新的政治结构。

这需要解决两个而不是一个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。

二、重新分配：从稀缺走向富足

在过去的两个世纪里，资本主义民主基本上用精英领导的市场取代了种姓制度和俘虏制；教士们提升了高尚的职业道德所具备的社会价值，学者们则对其加以记录；工人们也已经掌握了谈判和罢工的技巧。

但即便如此，无论我们人类的劳动是受雇于神灵，还是受雇于政府，抑或只是为了保障一份谋生工资，我们在工作方面的身心付出总的来说，与其说是为了我们自己，不如说是为了服务他人。

地球上相对固定的土地、劳动力和资本供应导致了稀缺性——而不是丰裕性，引导了斗争的发生。

激烈的斗争是围绕如何划分已经创造出来的东西，甚至更多的是为了如何分配所剩无几的那点东西而展开的。这些摩擦既涉及社会内部，也涉及不同社会之间。

即使在和平时期也是如此，公民们争论着造成社会相对弱势群体的根源，并呼吁重新分配，以解决普遍存在的苦难这一事实。扩大可用于再分配的财富总量，进而实际扩大再分配财富的数量，将提高全世界人类的生活水平。

人工智能的出现提供了一个真正的机会，通过将人类的劳动功能转移到机器上，取代了至少一种原始的生产要素。

此外，人工智能还将用于研究和开发日益廉价与丰富的原材料来源，作为对其自身的投入。

人工智能可以为各种商品生产更具可持续性的合成替代品，从而开创一个新的富足时代。

即使考虑到目前的一些物理和物质限制，人工智能的产出——尽管不是无穷无尽的——也可以达到相当宽裕的程度，足以满足人类所有基本需求，并实现我们的众多期待。

这可能会让我们在心理层面不再那么受制于经济学的稀缺范式，以及我们为生存所迫而工作所导致的悲观情绪。

三、超越国界：从零和博弈到全球合作

OpenAI首席执行官萨姆·奥尔特曼根据两个变量对经济体系进行了分析：增长和包容性。许多社会至少在一个时期内能够实现两者中的一个，但能够持续保持两者的社会则少之又少。

对这种关系，奥尔特曼写道：资本主义是经济增长的强大引擎，因为它奖励人们投资于能够长期产生价值的资产，这是创造和分配技术成果的有效激励制度。但资本主义进步的代价是不平等。

换句话说，人工智能及其带来的生产力提高可能会自然而然地催化一种长期的增长。但包容性只能通过选择来实现。

因此，在后人工智能时代，或许解决方案会像奥尔特曼建议的那样，对两种“将构成那个世界大部分价值的资产”征税，即公司——尤其是那些建造、维护和使用人工智能的公司。

另一种选项则是从专利制度中汲取灵感：允许对人工智能发明及其利润拥有独家所有权，以激励改进，但仅限于有限的一段时间；超过一定期限后，假定其安全性已得到证实，该模型便可以被公布（或者，也许可以在新的地区制作副本并构建基础设施），以供共同使用、迭代和获益。

简而言之，人工智能的先驱们可能低估了他们所引发的经济和政治挑战所涵盖的范围。

没错，人工智能几乎无所不能。未来的决策者必须小心谨慎，避免让工业革命时期蔓延开来的各种社会和经济不平等现象再度固化。

但是，正如萨姆·奥尔特曼所说：“它是要做我想做的事，还是要做你想做的事？”

如今，先进人工智能的绝大部分收益和几乎独有的控制权都掌握在极少数人手中。他们会放弃自己的优势吗？如果他们这样做了——而且当更多的利益和更多的控制权在国家层面共享时——那么要求将两者全球化的呼声就会立即响起。

一个国家会将其主权财富转化为全人类的共同利益吗？有些人可能会说，一旦这个世界不再是零和博弈，将其视为牺牲的心理障碍就会消失。但这是以一种尚未实现的转变为前提的，这种转变似乎与今天的现状背道而驰。

此外，即使我们能够成功到达一个超越稀缺的世界，也并不清楚届时应如何构建全球人类的激励机制以保持和谐融洽。即使在一个因物质丰腴而令物品“价值”不再至关重要的世界中，依然会充斥着各种“价值观”。

那些不以金钱为立身之本的人可能会以宗教、种族、家族血统、教育、道德、技能、审美、幽默感或其他类别为基础进行交流，然后重新部署社会和全球机构。那些不为金钱而战的人也可以为上帝、权力、荣耀或复仇而战。

此外，经济史也证明，人们很难设计出既连贯又有效的系统。我们必须承认，人类在预测技术的长期影响方面一直不甚擅长；就人工智能而言，我们的乐观可能毫无道理，我们的担忧也可能是杞人忧天。

未来，人工智能将成为世界秩序中的一个关键因素。零恐惧、零偏袒的人工智能为客观的战略决策引入了一种新的可能。

人工智能将缩小最初意图与终极结果之间的差距，包括动用致命武器。

无论是陆地上的无人机“蜂群”，还是海上部署的机器军团，或者也许是星际舰队，机器将拥有精确的杀人能力，不会有什么意外，而且造成的后果无法估量。潜在毁灭的规模大小将完全取决于人和机器的意志与克制。

在核时代，在某种意义上我们其实已经步入这一阶段。随着人工智能证实自己作为一种战争武器的价值，这一阶段的动态趋势和意义会变得越来越清晰。

尽管如此，我们仍相信，人工智能可以作为创造人类财富和福祉的新基准，而这种可能性本身就敦促我们朝着这个方向努力。

*文章为作者独立观点，不代表笔记侠立场。

好文阅读推荐：

“子弹笔记”是笔记侠的矩阵公众号，聚焦职场效率追求、人际关系与高潜成长者，帮你3分钟吃透核心观点和方法论。欢迎关注～

分享、点赞、在看，3连3连！