创刊40周年特刊 | AI重塑世界：我们需要的不仅是代码，更是韧性（下）

人工智能的飞跃式发展使通用人工智能（AGI），即在所有认知任务上超越普通人的AI，从科幻概念逐渐成为现实可能。近日，《经济学家》杂志刊发关于通用人工智能的系列展望文章指出，通用人工智能的到来可能打破经济增长限制，人类需积极应对技术与制度失衡，加强安全协作、缓解不平等、规划宏观政策，使人类在这场变革中走向更好的未来。

原文 ：《人类需要与技术突破匹敌的文明韧性》

作者 |薛梓涵 杨勇

图片 |网络

金融与全球秩序

AI驱动的增长爆发还将颠覆金融市场与政府财政。一方面，投资需求将飙升：EpochAI模型显示，今年对AI的最优投资应为25万亿美元（是当前的50倍），同时基础设施、工厂等非科技资本需求也将激增；另一方面，储蓄意愿会下降——人们预期未来收入暴涨，就会倾向于即时消费。这种供需错配将推高实际利率，可能达到20%—30%。资产价格陷入博弈：利率上升压缩股票估值，经济加速又可能提振盈利，学者们的观点将有明显分歧；土地等资产因供给固定或受益于AI的能源需求，但高利率又会重创其估值。

高利率会加剧政府债务负担，既需支付巨额利息，又面临失业催生的再分配诉求；不拥抱 AI 的国家将遭遇资本外流与财政紧缩双重挤压。但当前市场尚未为这种剧变定价。麻省理工学院的研究显示，新AI模型发布时债券收益率反而下降，说明投资者尚未将爆发式增长纳入预期。斯坦福大学的巴兹尔·哈尔佩林（Basil Halperin）指出，“市场并未高概率预测这种情况的发生”——这种滞后可能意味着，若AI进展如硅谷所料，全球将面临颠覆性震撼。

人类正走向未知疆域。通用人工智能的发展可能带来史无前例的繁荣：商品极大丰富，疾病得以治愈，甚至突破能源与寿命的限制；但也可能加剧不平等、引发金融动荡和安全问题。正如经济学家罗伯特·卢卡斯（Robert Lucas）所言，经济增长对人类福祉的影响如此深远，“一旦开始思考其意义，便再难关注其他事物”，而人工智能正将这种效应放大到极致。当前的核心矛盾在于：技术进步速度远超制度的适应能力。实验室的竞速逻辑难以逆转，监管框架尚未成型，社会对“如何分配增长红利”仍无共识。若要驾驭这场变革，需在三方面着力：建立全球协作的AI安全机制，避免“底线竞争”；通过税收、教育改革缓解收入分化，为普通劳动者提供转型支撑；央行与政府需提前规划，应对高利率、资本流动等宏观挑战。

安全应永远被置于首位

AI的加速发展令人振奋的同时也伴随着安全隐患。谷歌DeepMind的研究警示了四种危险路径：恶意滥用（如恐怖分子利用AI制造生物武器）、目标错位（AI与人类诉求偏差，如“回形针狂魔”场景）、操作失误（因现实复杂性误判后果）、结构性风险（多AI竞争加剧系统性问题）。

各实验室在加速推进AI研发的同时，OpenAI、Anthropic等实验室也一再宣称“安全优先”。马斯克一度呼吁暂停研究；未来生命研究所（FLI）的评分显示，谷歌DeepMind、OpenAI、Anthropic三家在“评估大规模风险”上做出了实质努力，但xAI、深度求索等则未公开相关行动。目前，实验室试图通过“基于人类反馈的强化学习”让AI拒绝有害指令，或用第二层AI监控风险对话。不过，AI处理复杂任务能力的增长速度远超人类对其工作原理的理解。“可解释性”研究试图破解AI决策黑箱，提升模型透明度。研究者还基于“推理模型”构建“忠实思维链模型”，确保其行动理由与动机一致。这些安全措施或许有效，但若拖慢模型速度、增加成本，便会陷入两难。

未来，AI的发展仍可能因数据枯竭、投资减少或监管加强而放缓。部分专家持风险论，同时，也有部分专家仍保持乐观。而我们的核心问题始终是：研发要为应对潜在灾难做足准备。避免商业竞争的残酷现实使安全问题退居其次，始终是AI发展的重中之重。

人类或许会发现自身的智能可以被超越，但文明的存续仍将依赖智慧——对风险的敬畏、对公平的追求，以及对变革的理性接纳。人类需要的不仅仅是技术突破，更是与之匹配的文明韧性。

[综合编译自《经济学家》杂志《超级智能经济学》《人工智能实验室的孤注一掷式竞争让人无暇顾及安全问题》《如果人工智能让全球经济增长爆发会怎样》等文]

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1972期第7版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

本期责编：程鑫云

《社会科学报》2025年征订

点击下方图片网上订报↓↓↓