英伟达年度「最危险」论文！AI自繁衍代码，无限刷级进化

新智元报道

【新智元导读】年度最危险论文发了！英伟达打破20年封印，让AI亲手造出更狠的「考官」淘汰自己。无休止的自我进化一旦开启，2028年ASI降临真不是玩笑。

Anthropic彻底「RSI上头」了！

联合创始人Jack Clark抛出惊人预测，到2028年底，一个高度自主进化的AI就会诞生。

这个概率，是60%！

在人们还在为「2028 RSI能否实现」争论不休时，剑桥大学、英伟达等机构联手，丢出了一篇重磅论文——

「红皇后哥德尔机器」（Red Queen Gödel Machine）

它的运作，宛如一场残酷的AI生存游戏：

AI自己编写新的学习算法，并将其投入沙盒进行试炼。失败的直接抹杀，成功的保留下来。

接着，幸存者们开启下一轮的自我进化与繁衍。

论文地址：https://arxiv.org/pdf/2606.26294

但真正令人毛骨悚然的，是AI随后展现出的「顿悟」：它意识到，想要不断变强，就必须面对更加苛刻的试炼。

于是，AI开始主动「进化」自己的考官。

它亲手打造出更严苛的裁判，来评判自己写出的更高级的代码。

这套机制，将AI死死锁定在一个无休止的、疯狂自我迭代的RSI里。

看完这37页论文，许多人倒吸一口凉气，「这绝对是年度最危险的AI论文」！

2028年RSI自进化

把预言写成代码

2003年，德国科学家Jürgen Schmidhuber曾构想过一种机器， 名为「哥德尔机」（Gödel Machine）。

它的设定堪称完美：一台能证明自己的改进有益、然后改写自身代码的机器。

一旦造出来，它就能不断自我升级，越变越强，没有上限。

不过，「哥德尔机」有一个致命的「门槛」——

在执行任何一行自我修改的代码前，它必须先从数学上严格证明：这次改动一定是有益的。

但在现实中，这几乎是个不可能完成的任务，所需的算力堪称「黑洞」。

于是，在之后整整20年里，哥德尔机只能躺在论文里，当一个理论上的天花板，一个谁都够不着的思想实验。

近两年，学界绕开了证明这道坎。

达尔文哥德尔机（DGM） 、赫胥黎哥德尔机（HGM）干脆抛弃数学证明，改用进化——

让AI「繁殖」出大量带突变的代码变体，扔进沙盒里跑分，失败的淘汰，成功的保留，幸存者继续繁衍。

AI跨越了最后一步，开始字面意义上「进化」自己。

但这些方法都还有一个共同的盲点——它们的考官是死的。

不管AI怎么进化，给它打分的那个评判标准、那个benchmark、那个验证器，始终被钉死在循环之外，一动不动。

这恰恰违背了进化最核心的一条规律：

物种从不是在一个静止的环境里优化自己，而是和不断变化的环境一起改变。

红皇后哥德尔机（RQGM），要破的就是这道盲点。

「红皇后」真正杀招：让AI造出考官

「红皇后」这个名字，来自生物学家Van Valen 1973年提出的「红皇后假说」——

你必须拼命奔跑，才能停在原地，因为你的对手也在进化。

RQGM干的事，正是把这句话写成了算法：让考官（评估器）和选手（任务智能体）一起进化。

这是整篇论文，最让人头皮发麻的地方。

这套精巧的机制叫「受控效用进化」（controlled utility evolution）：

• 整个搜索被切成一个个epoch；

• 在每个epoch内，评估器（考官）是冻结的，给所有考生打分，保证信号稳定；

• 只有在epoch的边界，才允许换考官，且新考官必须在一份留出的「基准真相」锚点数据上，统计意义上打赢老考官，才能上位；

• 一旦换人，系统立刻执行「选择性擦除」：只丢掉那些由被换掉的考官打过的分，其余证据全部保留。

换句话说，它既要狂奔进化，又要每一步都站得住脚。

真的奏效了，AI自己改代码

光说机制太抽象，不如直接看战绩。

第一战，写代码（Polyglot）。

RQGM给写代码的Agent配了一个"代码评审员"当陪练。

结果，在留出测试集上，通过率从此前SOTA的69.9%提到了71.7%。

更狠的是，它达到这个成绩，比对手少烧了1.35到1.72倍的token。因为那个评审员只需要查一次，比反复多轮跑测试便宜太多了。

第二战，写论文。

这是个没有标准答案的领域，论文好不好，没法机器自动判分。

RQGM让写手和它的评审一起进化，结果论文在一个固定评审小组里的接收率，从前SOTA的21.8%，直接飙到40.5%。

第三战，奥赛级数学证明。

它进化出的「评分官」（grader），比静态基线更准、搜索成本还低了3倍；

进化出的「证明选手」，拿到了最高的平均分。

但全篇最封神的一笔，是它把AI的一个老毛病给治好了。LLM当裁判，有个出了名的毛病：偏爱AI生成的内容。

论文里那个最强的基线审稿人，接受AI写的论文的概率，是接受人类论文的最高1.91倍。

RQGM怎么治？它在epoch边界上，把固定评审之前放过的AI论文捞出来，组成一个「对抗样本池」，然后专门奖励那些能把这些AI论文揪出来打回去的新评审。

进化几轮之后，最终的评审对AI和人类一视同仁，还保住了80%的真值准确率。

当AI学会评判自己

就在同一个夏天，Anthropic联创Jack Clark押下重注：60%的概率，2028年底前，AI将能亲手缔造出更强大的自己。

曾将「哥德尔机」死死困住20年的那道高墙，名为「证明」。

而「红皇后机」将其唤醒，只用了最残酷的一招：无休止的繁衍、淘汰、再繁衍。

当一个AI开始亲自为自己设计最严苛的考官，在疯狂的递归中将自己逼向极限，我们所面对的，将是一个开始自行定义「何为智慧」的全新物种。

当那一天到来，ASI绝不会敲门预告。

它只会默默造出那个唯一有资格评判它的裁判，然后，从容地走入考场。

预言只负责指明终点，代码才负责抵达。

而现在，这段令人窒息的距离，正被 AI 自己，以几何级数缩短。

参考资料：

https://x.com/HowToPrompt__/status/2070824205663273175?s=20

https://x.com/kimmonismus/status/2070968241548120168

编辑：桃子