刘永谋：智能革命后的世界之审思

提要：AI会不会失控？在《超级智能》中，波斯特洛姆设想，制造回形针可能是某个超级AI的终极目标，因而可能会实施将整个宇宙都变成回形针工厂的计划，人类在其中因毫无用处便被机器人灭绝。在未来一两个世纪中，人类文明会不会因为超级AI出现而堕入“文明危崖”？虽然在流行文化尤其是科幻文艺中，类似的问题非常“吸睛”，但是严肃的思想家并不太关注，或者说认为“文明的AI危崖”远比不上气候变化、核大战和新发未知病毒等的威胁。但是，AI与已有生存性风险的结合，肯定会加大“文明危崖”的风险。

哲学家关注新科技发展，并非以人文之名反对智能革命，而是为新科技健康发展保驾护航。从根本上说，科技是革命性的进步力量，没有科技支撑美好社会无法想象。但是，学术存在的终极目标，是看护社会福祉和公众利益，人文研究应关注新科技发展的社会冲击亦是为此。

DeepSeek凭借领先的自然语言处理技术和创新的深度学习模型，推动了AI技术的突破与应用创新。DeepSeek强调开源共享，降低了AI技术门槛，促进了全球范围内的技术交流与合作。同时，它在医疗、金融、教育等多个行业展现出巨大应用潜力，提升了行业智能化水平。DeepSeek还致力于AI伦理研究，确保技术健康发展，为智能革命注入了新的活力与方向。简言之，DeepSeek对智能革命产生的影响是深刻的、全方位的。

智能革命方兴未艾，势必将或者说正在将人类社会推进到全新的智能社会。最近GAI（生成式人工智能）工具的兴起，标志着智能社会开始进入AI辅助生存社会的新阶段。也就是说，在其中，人们的工作、生活和学习都将在AI的帮助下完成。接下来，很多人相信，也许不需要100年时间，机器人便有能力取代人类绝大多数的体力劳动和脑力劳动，AI辅助生存社会演化为AI替代劳动社会。

这将是生产力高度发达、物质产品极大丰富的富裕社会，值得人类憧憬。同时，在智能社会深入发展过程中，亦存在诸多科技风险和社会风险。如何处理好这些问题将成为智能社会继续进步的先决条件之一。因此，如今关注智能技术发展状况的人，不限于AI的研发者、推广者，或者AI发展的评论者、人文社科研究者，更包括深感生活将被智能技术深刻影响的普通公众。AI发展的问题，不再是纯粹技术问题，而是成为某种意义上的公共性议题。

随着智能革命不断深入展开，向当代社会各个层面渗透，有关“智能社会未来将去向何方、又应该去往何方”的问题，不仅为越来越多的人所困惑、思考，亦成为试图把握时代精神的当代思想家不可能绕开的关注点。

关于智能社会的未来，众说纷纭，歧义纷呈。预测未来智能社会，最好是综合不同领域研究者的看法，相互参照、取长补短、融会贯通，所以肯定是一桩跨学科的工作。或者说，只有跨学科方法才能更好地回答该问题。跨学科的研究，如果没有哲学反思来统摄，往往会显得非常零散和缺乏深度，更缺乏大尺度的格局和想象力。

智能经济应面对两个根本性问题：一个是增长极限问题，即地球资源最终限定经济增长的“天花板”；一个是富裕社会问题，即当科技生产力发展到劳动者生产的物质财富已经达到、甚至超过满足社会成员舒适生活所需时，问题的重心就不再是如何生产更多的商品，而是如何公正而合理地分配它们。

从20世纪末21世纪初开始，技术治理已经成为全球范围内治理领域的基本趋势。从某个侧面看，当代社会已然成为技治社会。自智能革命兴起以来，技术治理出现明显的“智能治理的综合”趋势，即不同技治手段逐渐在智能技术搭建的平台上综合起来，不再是零散的、局部的甚至相冲突的“技治拼盘”。也就是说，技治社会正在升级为智能治理社会，这是当代政治活动最根本性的趋势。

当智能社会出现各种问题和变化时，比如受到某种新发病毒的冲击，就能迅速感受到内外的刺激，“思考”之后立即做出反应，并不断接收反馈以调整反应行为。这与传统社会在应对方式上出现的盲目、“本能”状态根本不同。智能治理将智能技术与预测技术、规划技术等软技术相结合，极大地提高智能社会的自觉水平和行动能力，而这也是AI时代智能治理发展的重要任务。进一步而言，各种新科技尤其是智能技术在智能社会如此重要，国家和社会必然想法设法发展、运用和控制技术发展尤其是控制AI的发展。

在经济和政治变迁的更深处，是新科技对自然和社会的改造力量，在智能革命中开始深入到人本身，智人的肉身和观念开始发生前所未有的巨变。在肉身方面，“人的机器化”现象已经在发生。比如，大学生们在智能环境中容易呆若木鸡：人人一台笔记本、Ipad，或者干脆是一部手机，眼睛直勾勾地望着它们，时不时手指划一下，或者敲几个字。为了与AI进行劳动竞争，防止智人身心的退化，不少人开始重新思考运用新科技对智人进行身体和心灵的改造或增强，即笔者所谓的“身心设计”。

进一步而言，发生巨变的不仅是人的身体，更重要是我们的精神亦在发生巨变。什么是人呢？今天的人们越来越多地求助于新科技对智人研究的新成果。此时，人类的行为与情感被还原为物理、化学和生物参数，将人性的瑕疵视为正常的演化缺陷。譬如，爱情被认为是人体某些化学物质如多巴胺、内啡肽的分泌之后的结果。相应地，各种精致的行为主义、自然决定论、环境决定论、基因决定论日益盛行，对智人的行为、思想、文化和命运予以某种自然主义的解释。他们坚信环境变量与人类行为之间存在函数关系：如果环境参数发生变化，人的行为就会发生相应的变化，人人都一样。

AI会不会失控？在《超级智能》中，波斯特洛姆设想，制造回形针可能是某个超级AI的终极目标，因而可能会实施将整个宇宙都变成回形针工厂的计划，人类在其中因毫无用处便被机器人灭绝。在未来一两个世纪中，人类文明会不会因为超级AI出现而堕入“文明危崖”？虽然在流行文化尤其是科幻文艺中，类似的问题非常“吸睛”，但是严肃的思想家并不太关注，或者说认为“文明的AI危崖”远比不上气候变化、核大战和新发未知病毒等的威胁。但是，AI与已有生存性风险的结合，肯定会加大“文明危崖”的风险。

哲学家关注新科技发展，并非以人文之名反对智能革命，而是为新科技健康发展保驾护航。从根本上说，科技是革命性的进步力量，没有科技支撑美好社会无法想象。但是，学术存在的终极目标，是看护社会福祉和公众利益，人文研究应关注新科技发展的社会冲击亦是为此。

无论何时，人类都要努力控制包括AI在内的所有新科技发展，使之有益于人类福祉。技术时代，人人关心新科技，参与新科技发展进程，我们将拥有值得憧憬的未来。

作者系中国人民大学吴玉章讲席教授

来源：中国社会科学网

责任编辑：齐泽垚

新媒体编辑：苏威豪

如需交流可联系我们