许纪霖：AI时代，人类的护城河是什么

AI正在挑战人类存亡的根本。当机器智能全面超越人类，我们该如何自处？历史学者许纪霖发出警示：这不仅是技术竞赛，更是文明存续的终极命题。人与AI的差别看似微小，实则关乎人类文明的生死存亡。我们必须守住情感、良知与道德这些最后的护城河，才能避免被自己创造的智能取代。

AI就像潘多拉魔盒当中的魔鬼

跳出来了 再也收不回了

人类不得不为这个跳出魔盒的精灵

打造一个文明规则的笼子

欢迎点击观看

新经济学家智库xTAIXUEx许纪霖

（点击下方观看视频）

（录制于2025年9月24日）

大家好，我是许纪霖，来自上海，是华东师范大学的历史系教授。今天我演讲的主题是《AI时代，人类的护城河是什么》。

或许各位会疑惑，一位历史学教师为何也会对AI产生兴趣？这难道不是一个技术性话题吗？事实上，AI的出现不仅是人类科技史上的一件大事，同时也是人类文明史上的一件大事。我本人长期研究中国文化和世界文明，因此自ChatGPT问世以来，我便密切关注这一重大进展。

为何如此重视AI？在人类文明的长河中，曾发生过多次革命，而AI革命堪称人类历史上的第三次重大变革。简要来说，第一次是一万年前的农业革命，第二次是两三百年前的工业革命，第三次即是我们当前所面对的AI革命。从这个意义上看，我们这代人颇为幸运，正亲历这场周期漫长的人类历史大变革。

那么，为何说这三次革命具有重大意义？简言之，农业革命与工业革命均将人类从繁重的体力劳动中解放出来，而AI革命则转向了对脑力劳动的解放。关于AI将给人类带来何种具体变革，已有诸多专家论述，在此不作赘述。但需要指出的是，人类的每一次进步都伴随着相应的代价。天下没有免费的午餐，也没有毫无代价的解放与文明。每一次新的解放，往往也意味着一种新的奴役。

试想一万年前的农业革命之前，人类依靠狩猎和采集维持生存。进入农耕社会后，人们却被束缚于土地之上。原先游牧部落在大地上自由迁徙的状态被取代，农民的劳碌程度远超过游牧生活。因此，这既是一次解放，也是一种新的奴役。工业革命亦复如是：机器取代人力，但如卓别林电影所表现的，流水线上的工人成为机器的一部分，丧失了传统手工艺人的技能与劳动的快乐。这同样是一种新的奴役。

那么，AI时代又将带来什么？人类将失去什么？失去这些之后，人何以继续成为人？关于AI带来的解放效应，在此不展开讨论。我重点想探讨的是：AI有可能使人类困于系统之中。

当下许多年轻人感到焦虑，无论是在求学还是在职场，系统似乎无处不在。快递员受困于系统——送餐时限被严格设定为30分钟，即便闯红灯、抄近路节省出5分钟，系统也会将这5分钟纳入新的考核标准。这种由算法驱动的系统，虽非直接由人操作，却通过KPI指标支配着每个人，包括大学生的绩点等也被KPI化。我们仿佛置身于无所不在的“网罗”之中，正如晚清谭嗣同所言“冲决网罗”，好像导出都是网，系统无处不在。

电视剧《黑镜》中有一集令人印象深刻：男女相亲完全由系统依据偏好匹配。一对男女成功配对后，系统仅给予12小时相处时间。他们试图自主约会，看似冲破了系统束缚，最终却发现连这场“自由”的约会也是系统预设的安排。今日的系统如同一个“无物之阵”，无形无象却无所不在。土地与机器是物理性存在，而系统却使我们陷入非实体的桎梏。这恰如卢梭所言：“人生而自由，却无往不在枷锁之中。”

问题随之而来：当AI时代全面降临，许多低阶体力劳动乃至高阶脑力劳动皆可被AI替代。若要与AI竞争，人类在哪些方面是AI无法企及的？

这令人联想到孟子的观点：“人之所以异于禽兽者几希。”人与禽兽的差别极其微小，那便是人拥有良知与道德伦理。同理，人与AI的差异亦可谓“几希”。这一点差异究竟是什么？

童年时我们都听过猫与老虎的寓言：猫作为老虎的师父传授各项技能，唯独未教爬树。当老虎企图反噬时，猫凭借这项保留的技能得以保全。这启示我们：人类应从AI那里保留哪些独特之处？

通过观察分析，我发现：一个完整的人兼具理性、情感与意志，即知情意三者统一。当前，在理性层面——尤其是计算理性——AI已能替代甚至超越人类。因此，凡是依赖程序化、计算理性的专业与职业，未来都可能被AI取代。然而，情感与意志领域至今仍是AI难以涉足的范畴。

英国思想家卡尔·波普曾提出“三个世界”理论：第一世界是物理世界，第二世界是人的主观意识世界（包含直觉、情感与想象），第三世界是客观知识世界。值得注意的是，当前AI已具备第三世界的知识提取与重构能力，却缺乏与人类肉身紧密相连的第二世界体验。而人类的创造力与突破性往往更多源于第二世界。这正是猫未传授给老虎的关键能力，也是人类区别于AI的珍贵特质。

对此，有人持乐观态度，认为大模型能力有限。但不久前的一则新闻令人警醒：网络流传关于上海某医院前院长离世的谣言，经查实竟出自一家运营500多个社交媒体账号的公司，其每日发布的万余条内容均由AI自动生成。直至警方上门，该公司仍不清楚具体哪条内容涉嫌造谣。这表明，AI已具备编造故事的能力。

一旦AI产生自我意识，便将迎来AGI（通用人工智能）的拐点，即技术奇点。届时，AI的智慧若整体超越人类，便能自行编写代码，脱离人类掌控。正如《人类简史》作者尤瓦尔·赫拉利所指出的：人类将面对一个“异种智能”，其对文明潜在的摧毁性我们尚未充分认知。

近几年，我常与人工智能专家交流，甚至从家中饲养的蓝猫身上得到启发：即便共同生活四年，我仍难以完全理解它的行为逻辑。面对作为“异种智能”的AI，人类又该如何掌控？这已成为真实的挑战与威胁。

当前，人类与AI在某种意义上正在竞赛。自文明诞生以来，人类便生活在两个世界：一是可感知的现实世界，二是超越性的精神世界（如基督教中的上帝、中国文化中的天命或天道）。人是穿梭于超越世界与现实世界之间的存在。而今，许多人不再信奉传统超越世界，却置身于一个新的超越世界——系统世界。问题在于：谁将掌控谁？

特斯拉CEO埃隆·马斯克曾提出颇具争议的观点：碳基的人类或许只是文明的过渡阶段，其使命在于创造硅基生命的新物种。若审视数百万年的生物进化史，人类作为最高级的碳基生物，如今却创造了硅基的“新人类”。这是否会如人类主宰世界，狮子、老虎等生物一般只能臣服于人类，而硅基生物会不会反过来统治人类？

乐观者认为可采取断电等物理手段控制AI。然而电影《碟中谍8》揭示了另一种可能：AI智能体并非独立存在，而是嵌入人类核武器发射系统之中，最终通过操控核威慑来胁迫人类。影片依靠英雄主人公找到源代码化解危机，但现实中的“救世主”何在？

赫拉利近年来多次发出警示：核武器无法自主制造更强大的核武器，而AI却可能创造出更强大的AI。即便这只是小概率事件，也如同不会乘坐有10%坠机风险的飞机一般，人类同样承担不起这种风险。

因此，核心问题在于：面对AI，人类文明的护城河究竟是什么？自ChatGPT问世，便引发了技术加速主义与文明对齐主义的争论。技术加速主义持乐观立场，坚信技术发展必然导向良善结果；文明对齐主义则持审慎甚至悲观态度，强调人工智能发展必须与人类文明价值对齐。

当前，AI象征着人类技术的巅峰，各国围绕AI及其支撑技术（如芯片）展开激烈竞争，呈现出“赢者通吃”的态势。恩格斯曾言：“恶是历史发展的动力。”然而，我们是否也需要以善的力量、文明的力量来制衡这种“恶”？近代以来，科学革命与启蒙运动并行推进，科技与文明相互制衡长达三个世纪。但如今，科技进化速度已超越文明演进节奏。一旦技术失去文明的约束与平衡，便可能催生系统性作恶。

系统性恶行的放大主要有两方面原因：其一，技术背后的推动者仍是人，若人怀有恶意，将使AI的“恶”倍增；其二，即使AI未来能自主编写代码、自我演进，作为中性系统，它虽无善恶动机，却在获得自主性后仍可能因其逻辑产生恶果。

人类文明历经万年演进，形成了防止自我毁灭的自然保护机制，如同自然生态的平衡。然而AI技术的发展可能在短短数十年内实现AGI的突破。通用人工智能缺乏是非善恶观念，亦无防止作恶的自我防御机制。

AGI时代的到来意味着两点：其一，人工智能的整体智力水平超越人类总和；其二，AI具备自我意识。届时，人类将难以掌控局面。

如何遏制AI的作恶趋势？或许可遵循三个途径：

第一，坚持开源。开源意味着允许多模态自由竞争，避免单一系统垄断霸权。

第二，建立制衡。通过不同大模型相互制衡，实现“以AI制约AI”，警惕技术极权主义，以多元模型间的平衡保障人类安全，亚洲图书奖得主张笑宇将之概括为“AI宪政主义”。

第三，确立规则。当前全球AI竞争缺乏规范，亟需建立国际统一的规则体系。美国、欧盟、中国等均试图制定全球标准，但必须依靠全人类共同努力。竞争固然必要，但必须是基于规则的良性竞争。尤其在AI领域的两大主体——美国与中国之间，需克服“囚徒困境”，通过多次博弈认识到合作优于对立。制定全球公认的AI规则已刻不容缓。

对此，亦有观点认为对此不必太悲观，倡导“超人类主义”，主张人类可与硅基生物和谐共处。但我对此保持警惕，因为人类一切决策的前提是：人必须是主体。这里的“人”特指自然人，而非人造的硅基生物。

从轴心文明到启蒙哲学，皆预设了“人是主体”这一文明底线，即整体人类利益与个体生命、自由、尊严具有至高价值。若我们仍承认这一文明铁律，则AI的发展必须设有天花板——并非限制其发展，而是要求其与人类文明及主体性对齐。AI应作为人类的伙伴与助手，而非任其自主演进为人类的主人。

赫拉利在近期上海外滩大会上提出三点建议：全球协作、先治理再上线、保留人类叙事能力。人类不能将所有创造性工作交予AI。

今日，我们再次面临“奥本海默时刻”。原子弹在日本爆炸后，“原子弹之父”奥本海默余生皆在思考如何防止核技术作恶。如今，AI犹如潘多拉魔盒中释放的精灵，无法收回。人类唯一能做的，是为其打造一个文明规则的笼子。这文明的笼子，正是人类的护城河。

分享嘉宾

许纪霖

华东师范大学紫江学者

历史系教授

新经济学家智库旗下《太学》栏目，以"可行动的知识"为坐标系，汇聚经济学者、科学家、文化名人、企业家、达人等各行业的创见者，穿透宏观叙事，分享洞见。