AI自我训练？OpenAI研究员Jason Wei泼冷水：它的三大瓶颈你根本想不到

人工智能（AI）能否自我完善并引发“快速起飞”？许多人担忧，一个能够自我改进的AI可能会在极短时间内实现智能的爆炸式增长，从而彻底改变世界

然而，OpenAI的研究员 Jason Wei 对此提出了不同的看法。他认为，AI的自我完善确实是改变游戏规则的未来，但这一过程不会是突如其来的“瞬间爆发”，而将是一个极其渐进、可能跨越十年的漫长过程。他从三个核心角度阐述了为什么我们应该对AI的发展保持更为审慎和现实的期待

论点一：自我完善并非一个“非黑即白”的开关

首先，AI的自我完善能力不是一个可以瞬间开启的技能

我们可以想象一个场景：GPT-5 模型去训练下一代的 GPT-6 模型。这听起来非常不可思议，但它会如何发生呢？GPT-5 不可能从完全无法训练 GPT-6，突然转变为一个极其高效的“AI训练师”。

相反，最初由AI主导的训练尝试，其效率在时间和计算资源上，很可能会远低于人类研究员。AI需要经过大量的试错和迭代，才能逐渐学会如何比人类更有效地训练新模型。这个过程本身就是一个学习曲线，而不是一个可以一蹴而就的奇迹。

论点二：不同领域的自我完善难度存在巨大差异

其次，即使AI掌握了自我训练的能力，它也不会在所有领域同时取得突破。自我完善的难度在不同领域存在着明显的“梯度”。

• • 简单领域： AI可能最先在那些我们已经有成熟解决方案的领域实现自我提升，例如修正一些基本的“幻觉”（即模型捏造事实）或调整语言风格。

• • 中等难度领域： 接下来可能是数学和编程。这些领域虽然更具挑战性，但已有成熟的评估和改进方法，AI可以沿着既定路径进行优化。

• • 极高难度领域： 而在某些极端情况下，自我完善将变得异常困难。Jason Wei 举了一个例子：让AI学会流利使用 特林吉特语 （Tlingit）。这是一种仅有约500人使用的美洲原住民语言。由于缺乏大量的现成数据，AI很难凭空“创造”出流利的对话能力。唯一的解决办法是收集更多数据，而这是一个需要耗费大量时间的物理过程

由于这种难度梯度的存在，AI的进步将是分阶段、分领域的，而不是一场齐头并进的革命。

论点三：科学进步的终极瓶颈是“真实世界实验”

最后，Jason Wei 提出了一个或许有些争议的观点：科学的进步最终受限于真实世界的实验，而非纯粹的智力。

有些人可能幻想，一个超级智能体只要读完所有生物学论文就能找到癌症的疗法，或者只要掌握所有机器学习论文和数学知识就能完美地训练出GPT-10。但现实并非如此。

在AI以及许多其他科学领域，真正推动进步的，往往是那些极度注重实证的研究者（ruthlessly empirical researchers），而不是那些理论知识最渊博的人。这恰恰反映了科学进步在多大程度上依赖于实验结果，而非原始智力。

因此，即使一个超级智能体能够设计出比人类顶尖研究员好上2倍甚至5倍的实验方案，它终究还是需要等待实验的运行和结果的反馈。这个物理世界的时间限制，决定了AI的发展即使能实现“加速”，也无法达到“快速起飞”的程度。

参考：

https://x.com/_jasonwei/status/1939762496757539297