美国国家科学院院刊：达尔文式进化的可进化AI系统很快会出现，将带来特殊风险

来源：https://techxplore.com/news/2026-04-evolving-ai-agi-hard.html_rewarded

（左图）人形机器人 Alter3 配备了基于 LLM 的“心智社会”架构，用于弱耦合内部模块的通信和操作（照片由 Luc Steels 拍摄）。（右图）该机器人通过将高级描述转换为可执行代码来扩展其物理行为库。每个箭头代表 LLM 的一个推理步骤，从图像分析的输出（“图像中不可见手”）（A）开始，到目标的制定（B），再到将目标转换为详细步骤（C），最后合成并执行 Python 代码（D）。图片来源：《美国国家科学院院刊》 (2026)。DOI：10.1073/pnas.2527700123

来自匈牙利生态研究中心（HUN-REN）、罗兰大学和比利时皇家弗拉芒科学与艺术学院的研究人员认为，进化生物学为人工智能的未来提供了线索。在4月20日发表于《美国国家科学院院刊》（PNAS）的一篇新观点文章中，该团队警告说，能够进行达尔文式进化的可进化人工智能（eAI）系统可能很快就会出现，它们将带来一些特殊风险，而这些风险可以基于进化生物学的见解来理解和缓解。进化的力量与人工智能的下一步

“进化的力量在地球生物进化的历史中得到了体现，它创造了人类思维的认知能力，”该研究的最后一位作者、匈牙利生态研究中心和布达佩斯罗兰大学进化生物学教授、珀金帕门尼德科学概念基础中心主任厄尔斯·萨特马里说道。

“我们认为人工智能系统的发展最终必然会利用这种力量，而且可能很快就会利用，”布鲁塞尔自由大学 (VUB) 人工智能荣誉教授、比利时皇家弗拉芒科学与艺术学院院士、该论文的共同通讯作者卢克·斯蒂尔斯补充道。

该研究概述了进化概念和组成部分在当前人工智能研究中的应用，并解释了进一步的发展，特别是智能体人工智能的发展，如何可能很快催生出符合真正达尔文进化所有标准的人工智能系统。此类系统或将开启人工智能发展的新纪元，克服即使是当前学习型人工智能系统也难以逾越的障碍。

为什么人工智能的发展可能很危险

然而，该研究的第一作者、厄特沃什·罗兰大学副教授维克托·穆勒表示：“生物进化的经验告诉我们，不断演化的AI系统将尤其难以控制。”两位进化生物学家萨特马里和穆勒与机器人和人工智能专家斯蒂尔斯合作，提前发出关于eAI风险的警告，并提出了可能的缓解措施。

该研究利用生物和人工（计算机模拟）进化中的例子，强调了进化产生“自私”行为者的倾向，而就电子人工智能而言，这增加了打破与人类目标“一致性”的风险。

重要的是，虽然目前关于人工智能风险的大部分讨论都集中在“通用人工智能”（AGI）上，这是一个理论上的门槛，即人工智能在所有认知任务中达到或超过人类智能，但进化论的经验表明，卓越的智能并不是生物体伤害或操纵其他生物体的先决条件；例如，简单的狂犬病毒已经进化到能够操纵和利用其哺乳动物宿主。

可进化的人工智能可能会打破这种平衡，并在通用人工智能（AGI）实现之前就带来风险，而且这种风险不需要任何特殊情况的出现：人工智能系统和人类共享共同的资源，因此一个高效的自我复制系统迟早会转移对我们生存至关重要的资源。

该研究警告说，任何控制繁殖的尝试，除非控制措施完美无缺，否则都会最强烈地选择那些能够逃脱控制的性状。生物学中也有类似的例子，例如细菌和害虫迅速进化出对抗生素和杀虫剂的抗药性。

除了进化的一般规律之外，人工智能系统发展的核心动力——提高认知能力——进一步加剧了风险：虽然数千年的动物育种使驯养物种更容易控制，而不是更难控制，但选择提高“智能”将增加人工智能系统欺骗人类和逃脱控制的能力和概率。

最后，尽管自然选择进化本身就难以控制，但这项研究列举了人工智能系统进化在速度和效率上超越生物进化的多种方式。与生物体不同，人工智能可以继承“后天获得”的性状，甚至可以通过设计来改进自身功能，而无需等待随机突变产生有用的变异。“人工智能进化的潜在速度令人深感担忧，”斯蒂尔斯说道。

护栏和行动呼吁

作者建议采取一些防护措施来降低与电子人工智能相关的风险。最重要的是，人工智能系统的“复制”必须始终处于集中的人工控制之下，这种控制必须是绝对的、完整的。

“我们希望我们的警告能够及时发出，并在人工智能真正普及之前制定相关法规，”穆勒说。

“如果我们不采取行动，我们可能会目睹进化史上的一次新的‘重大转变’，届时人工智能将取代人类，或者至少会主宰人类。我们的未来可能岌岌可危，”萨特马里警告说。

阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”

未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告

（加入未来知识库，全部资料免费阅读和下载）