AI教父Hinton发了首篇RSI论文：智能爆炸，可能发生！

智猩猩AI整理

编辑： 没方

过去一年，递归自我改进（Recursive Self-Improvement，RSI）正在从一个颇具科幻色彩的概念，快速变成AI行业真正开始认真讨论的问题。

AI教父、图灵奖与诺贝尔物理学奖得主Geoffrey Hinton（杰弗里·辛顿）最近参与发表了他的首篇RSI相关论文《What if automating AI R&D triggers an intelligence explosion?》。

这篇文章的作者阵容相当豪华，除了辛顿，还包括强化学习先驱Andrew Barto、OpenAI首席科学家Jakub Pachocki、图灵奖得主Yoshua Bengio等顶尖学者。

研究团队深度讨论了AI研发自动化，是否可能引发“智能爆炸”？

这里的“智能爆炸”指的是，当AI开始研发下一代AI，会不会出现“越研发越强、越强研发越快”的循环？

研究团队给出的判断是目前还不能确定，但已有初步证据表明，这种“智能爆炸”确实可能发生。

01

AI开始参与研发AI

过去我们谈AI提升，背后的主角始终是人。研究人员提出新的模型架构，工程师优化训练系统，算法团队设计后训练方法，然后训练出一个更强的模型。

但这条链条正在发生变化，现在的AI系统已经能够辅助甚至自主完成AI研发流程中的多个重要环节。

与一年前相比，头部AI公司的研发人员已经开始把核心研发任务交给AI系统，一些开发者甚至会把几乎所有编码工作交给AI。

论文引用的数据显示，Anthropic内部由AI产生并最终获得批准的代码占比，从2025年1月的个位数百分比，上升到了2026年5月的80%以上。

而仅需要人类进行高层监督、其余部分由AI自主完成的研发工作比例，也从2026年3月的1%增长到8月的26%。

变化的不只是代码量。

相比2023年AI只能完成相当于人类几秒钟工作量的任务，如今最先进的AI系统，已经可以完成需要人类专家数小时甚至数天才能完成的AI研发任务。

在一些特定的研究任务中，AI甚至已经表现出超过人类专家的能力。例如，它曾自主找到更好的AI安全研究问题解决方案，并在某些情况下更准确地预测哪些研究思路可能成功。

甚至已经有自动化AI科研系统完成了“提出研究想法—运行实验—撰写论文”的完整流程，并最终通过了一个在顶级机器学习会议举办的Workshop的同行评审。

按照论文引用的一些趋势外推，到2028年年中，AI可能有能力自动完成需要人类持续数月的AI研发项目。

02

软件驱动的智能爆炸

研究团队把软件驱动的“智能爆炸”拆成了两个步骤。

（1）AI越来越擅长AI研发，于是人类可以部署越来越多的AI研究员，相当于迅速扩大整个AI研发团队。

（2）这些AI研究员又会参与研发更强的新一代AI。新一代AI能力更强，又可以完成更多研发工作；完成更多研发工作，又会产生更强的AI。

于是，更强的AI → 更多AI研发 → 更强的下一代AI → 更大的自动化研发团队 → 更多AI研发……递归反馈循环就出现了。

一旦AI达到专家级AI研发能力，真正惊人的可能不只是单个AI研究员有多聪明，“研究人员数量”可能突然失去人类世界的物理限制。

研究团队做了一个非常激进的估算。

一旦AI达到专家级AI研发能力，并且运行成本与今天系统相当，论文估算，今天一名前沿AI开发者能够调用的算力，就可能支撑相当于至少数百万名顶尖人类研究人员的AI劳动力。

而今天最前沿的AI公司，也不过拥有数千名研究人员。

这意味着研发能力扩张的方式可能彻底改变。

人类想培养100万名顶尖AI研究员，需要大学教育、博士训练、产业经验，可能需要几十年。

AI研究员则可以复制。如果模型能力足够强、推理成本足够低，增加“研究人员”的过程可能变成增加算力、启动更多Agent。

研究团队估计，在完全自动化的情景下，即使只保持当前效率改进的速度，自动化AI研发劳动力也可能在数月到数年内增长100倍。

作为对比，美国研究人员数量实现类似幅度的相对扩张，花了大约70年。

这里很容易产生一个误区。研究人员讨论的“智能爆炸”，并不是科幻作品中AI突然觉醒的情节。它关注的是一个更现实的问题：AI驱动AI研发后，AI进步速度是否会发生数量级加速。

03

为什么“智能爆炸”还没有发生？

研究者们专门分析了至少四个可能踩下刹车的因素：收益递减、算力和数据限制、难以自动化的任务，以及耗时很长的研发过程。

最直观的问题就是收益递减。

科学研究中的“低垂果实”会越来越少。即使把研究人员从1万人增加到100万人，也不意味着研究速度一定提高100倍。

但论文引用的一项研究给出了一个值得注意的结果。

研究人员用历史AI发展数据估算了“returns to research effor”，在三个AI研究子领域中得到的中心估计约为1.2至1.9。如果这一参数保持不变，同时没有出现其他瓶颈，那么在AI研发完全自动化后，AI进步速度可能在约1.5年内提升10倍。按照今天速度需要一年完成的AI进步，届时可能只需要约5周。

但这个结果存在很大的不确定性。算力可能成为瓶颈，数据也可能成为瓶颈。

论文指出，互联网数据的供给增长速度，可能在2028年之后不足以继续支撑当前的AI进步速度。为突破这一限制，近年来数学、编程等领域的AI进展已经开始依赖合成数据和快速、可验证的反馈。

还有一些现实世界任务很难自动化。

尤其是大模型训练本身，一次前沿训练目前可能持续3个月甚至更久。无论AI研究员思考得有多快，都无法直接让现实时间消失。

因此研究团队给出的判断是，目前AI研发自动化带来的生产率提升，还没有达到触发“智能爆炸”所需要的门槛；但新一代AI系统带来的收益可能正在接近这一门槛，而且随着AI研发自动化迅速推进，两者之间的差距可能继续缩小。

04

社会影响与政策建议

如果AI研发真的进入快速自我加速阶段，可能会让原本需要更久才能实现的技术收益提前数年甚至数十年，包括医疗突破等。

但进步来得更快，并不意味着人类能够以同样的速度做好准备。

人类社会存在一个天然的速度差：软件可以快速迭代，但制度、法律、基础设施和社会适应能力的调整往往需要更长时间。一旦AI能力提升的速度超过社会应对的速度，原本可以逐步解决的问题，就可能在短时间内集中爆发。

这也是论文重点讨论的另一面，研究团队重点讨论了三类风险。

第一，AI能力增长速度超过社会适应速度。网络攻击、生物安全、就业冲击等风险可能突然提前出现，而监管体系和防御措施来不及建立。

第二，人类逐渐失去对AI研发流程的监督能力。当越来越多研究、代码、实验和决策由AI完成，人类不仅减少了介入机会，甚至可能逐渐失去理解整个研发流程所需要的专业能力。

第三，现有权力制衡机制可能受到冲击。一个国家原本有限的技术或军事研发领先，可能借由智能爆炸迅速转化为决定性优势。

那么，如果这种加速真的发生，我们现在应该做什么？

研究团队提出了三项政策优先事项：提高AI研发自动化的透明度；建立引导和约束智能爆炸的机制；提前为智能爆炸可能产生的社会影响做好准备。

关注+星标，获取AI前沿进展与开源一线动态