AI至少5年内不会完全替代人类程序员

根据LessWrong最新发布的报告显示，人类程序员在短期内不会被AI完全取代。报告预测，完全编程自动化的实现还需要5到6年时间，这一预测相比该社区此前认为的2027年1月至2028年9月有所推迟。

这一时间线的延长距离LessWrong初始研究结果仅过去8个月，突显了AI预测的不确定性和主观性。

研究人员在报告中写道："未来充满不确定性，但我们不应该只是被动等待。如果我们尝试预测将会发生什么，关注趋势并进行推断，建立底层动态模型，那么我们就能更好地把握可能性，为即将到来的变化做好准备。"

AI发展阶段划分

根据LessWrong的新AI未来模型，AI将在2032年2月达到"超人类程序员"水平，并可能在此后五年内发展为人工超级智能（ASI）。

超人类程序员被定义为：一个AI系统能够以组织计算预算的5%运行相当于人类工程师30倍数量的智能体。它能在顶级人类程序员水平上自主工作，执行任务的时间比组织最优秀工程师少30倍。

这一新预测比LessWrong在2025年4月的初始预测推迟了3.5到5年。研究人员表示，这是经过多次重新考虑、重新框架和研究策略调整后的结果。

值得注意的是，研究人员对AI研发加速度变得"不那么乐观"，并采用了软件智能爆发（SIE）的新框架。他们更多关注AI如何设定研究方向、选择和解释实验的能力。

模型方法和调整因素

LessWrong研究人员分析了多种建模方法，最终选择了"能力基准趋势外推法"，该方法使用当前性能趋势和标准化测试来预测未来AI能力。他们使用METR的时间范围套件（METR-HRS）来估算通用人工智能（AGI）所需的计算资源。

研究人员写道："基准趋势有时会中断，基准只是现实世界能力的代理指标，但METR-HRS是目前可用于推断高能力AI的最佳基准。"

不过，研究人员也考虑了其他几个因素的影响：

计算、劳动力、数据等AI投入不会以相同速度持续增长，由于芯片生产、能源资源和金融投资的限制，存在"显著可能性"会出现放缓。

研究人员估计参数更新会有一年的放缓，AI研发自动化会有两年的放缓，这主要由于软件研究中的收益递减效应。

模型设计为较少"二元化"特征，对非常快或非常慢的发展给出较低概率，而是假设渐进式进步。

AI发展的完整路径

研究人员将AI发展分解为不同阶段，而非简单地从人类智能跳跃到AGI：

超人类程序员将快速发展为"超人类AI研究员"，能够完全自动化AI研发，使人类研究员变得多余。

接下来是"超智能AI研究员"，代表AI在性能上超越人类专家2倍以上的阶段性变化。

然后是顶级人类专家主导AI，能够在几乎所有认知任务上表现得与人类专家一样出色，最终替代95%的远程工作岗位。

最后是人工超级智能（ASI），在几乎所有认知任务上都远超顶级人类表现。研究人员预计ASI将在实现超人类编程能力后五年出现。

企业应对策略

Greyhound Research首席分析师Sanchit Vir Gogia表示，时间线的调整对企业来说是一个"重要信号"，显示即使是复杂模型对反馈循环、收益递减和瓶颈的假设也"极其敏感"。

从CIO角度来看，这不是关于AI是否能编程的争论，而是如何应用的问题。企业应该"积极"使用AI来压缩周期时间，同时让人类对结果负责。

Gogia强调，未来两到三年的主要转变不是完全自主编程，而是AI驱动的企业流程加速。"价值将来自重新设计工作流程，而不是裁员。成功的组织会将AI视为有纪律交付系统中的力量倍增器，而不是系统的替代品。"

Q&A

Q1：超人类程序员具体指什么水平的AI？

A：超人类程序员是指一个AI系统能够以组织计算预算的5%运行相当于人类工程师30倍数量的智能体。它能在顶级人类程序员水平上自主工作，执行任务的时间比组织最优秀工程师少30倍。

Q2：LessWrong为什么将AI完全替代程序员的时间推迟了？

A：主要原因包括：对AI研发加速度变得不那么乐观；考虑到计算、数据等资源增长会因芯片生产、能源等限制而放缓；预估参数更新和AI研发自动化会因收益递减而放缓；以及采用了更加保守的渐进式进步模型。

Q3：企业现在应该如何应对AI编程技术的发展？

A：企业应该积极使用AI压缩开发周期时间，但保持人类对结果的责任。重点是重新设计工作流程而不是裁员，将AI视为有纪律交付系统中的力量倍增器。同时需要关注可审计性、安全性，采用边界化试点和受控自主的方式。