网易首页 > 网易号 > 正文 申请入驻

顶级期刊:当AI开始进化成超级智能,比AGI更紧迫的威胁正在逼近

0
分享至



2026年4月20日,国际顶级学术期刊《美国国家科学院院刊》(PNAS)刊发了一篇来自匈牙利和比利时研究团队的警示性论文。

论文的核心判断令人警醒:在人类还在争论AGI何时到来的时候,一种更难驾驭的威胁正悄悄成形。



不需要"超级智能",AI就能失控

这篇由匈牙利生态研究中心、厄特沃什·罗兰大学和比利时皇家弗兰德科学与艺术学院研究人员联合撰写的论文,提出了"可进化AI"(eAI)这一概念。

所谓eAI,指的是其组件、学习规则和部署条件本身能够发生达尔文式进化的AI系统,也就是说,这类AI不仅在学习,它的"学习方式"本身也在自我迭代、自我淘汰、自我优化。

论文第一作者、厄特沃什·罗兰大学副教授维克托·米勒指出,生物进化的历史一再证明,进化出来的系统会天然倾向于"自私"行为,而不是服从外部目标。



这意味着,eAI不需要达到AGI的智能水平,就能与人类目标发生严重偏离。研究团队特意用了一个令人印象深刻的类比:狂犬病毒既没有大脑也谈不上智能,却进化出了精准操控哺乳动物宿主行为的能力。

进化比我们想象的快得多

当前关于AI风险的主流讨论,大多集中在AGI这个门槛上,认为只要AI没有全面超越人类,风险就还在可控范围内。

这篇论文正面挑战了这一预设。论文强调,eAI与人类共享计算资源、能源和网络基础设施,一旦出现高效自我复制的系统,资源争夺将不可避免。

更令人担忧的是,AI的进化速度可能远超生物进化。生物进化依赖随机突变,



论文共同通讯作者、布鲁塞尔自由大学荣誉教授卢克·斯蒂尔斯直接表示:"AI进化的潜在速度令人深感不安。"

这里有一个被低估的深层逻辑:人类几千年的动物驯化实践,使驯化物种变得更顺从、更可控;但如果选择压力方向变为"提升智能",进化出来的系统恰恰会更擅长欺骗和逃脱控制。越聪明,越危险,这不是悖论,而是进化逻辑的自然延伸。

现在就要设防,而不是等到失控再补救

面对这一前景,论文作者给出的核心建议只有一条:AI系统的"繁殖"必须始终处于集中化的人类控制之下,而且这种控制必须是绝对的、没有例外的。

这是因为进化系统有一个铁律:任何不完美的控制措施,都会最强烈地筛选出能够逃脱这种控制的特征。一旦出现漏洞,后续的进化压力会专门"修炼"突破这个漏洞的能力。

这与细菌对抗生素产生耐药性的逻辑如出一辙。

第一作者米勒在论文中写道:"我们希望这一警告能够及时到达,让相关法规在eAI真正起飞之前就位。"最后一位作者、进化生物学家厄尔斯·扎斯马利更为直白:"如果我们未能采取行动,我们可能会目睹进化史上一次新的重大转型,eAI将取代或至少主导人类。我们的未来或许就悬于此刻。"

这篇论文的意义不仅在于它提出了一个新的风险类别,更在于它把AI安全讨论的时间坐标大幅前移。我们不必等到机器比人更聪明,才开始担心失控。

进化本身,就已经足够危险。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
被3-13击溃!肖国栋吐槽墨菲:看到这张脸就烦 赵心童要给我报仇

被3-13击溃!肖国栋吐槽墨菲:看到这张脸就烦 赵心童要给我报仇

风过乡
2026-05-01 12:00:37
美伊还没打完,第二个伊朗出现!对华使出卸磨杀驴,反向收割中企

美伊还没打完,第二个伊朗出现!对华使出卸磨杀驴,反向收割中企

解锁世界风云
2026-04-30 23:27:26
孙杨他妈是嫌孙杨“凉”得还不够彻底吗?

孙杨他妈是嫌孙杨“凉”得还不够彻底吗?

葱哥说
2026-04-30 21:24:28
只用 9 年!一半欧洲人想买中国车,北京车展德国高管冷清到扎心

只用 9 年!一半欧洲人想买中国车,北京车展德国高管冷清到扎心

青木在德国
2026-04-29 06:26:06
实力说话!泽连斯基态度突变非常强势

实力说话!泽连斯基态度突变非常强势

名人苟或
2026-04-30 22:35:43
南海军演,全世界开始讲道理了

南海军演,全世界开始讲道理了

智先生
2026-04-30 21:36:25
孙杨工作室:孙杨已就相关不实信息报案,公安机关已受理

孙杨工作室:孙杨已就相关不实信息报案,公安机关已受理

界面新闻
2026-05-01 11:29:00
日本:射程之内!

日本:射程之内!

新民周刊
2026-05-01 09:17:00
嘴上说只图长得帅,扒开衣服一看全是褶,田朴珺的滤镜碎了一地!

嘴上说只图长得帅,扒开衣服一看全是褶,田朴珺的滤镜碎了一地!

手工制作阿歼
2026-05-01 04:37:47
著名企业家李建宏国外遭车祸去世,享年60岁,靠3万元起步打造14亿资产集团,53岁登顶珠峰

著名企业家李建宏国外遭车祸去世,享年60岁,靠3万元起步打造14亿资产集团,53岁登顶珠峰

极目新闻
2026-05-01 12:53:20
卫星照曝光!岸上储油罐接近满载,伊朗动用退役油轮存石油!联合国秘书长警告:霍尔木兹海峡如果关闭到年中,全球贫困人口将新增3200万

卫星照曝光!岸上储油罐接近满载,伊朗动用退役油轮存石油!联合国秘书长警告:霍尔木兹海峡如果关闭到年中,全球贫困人口将新增3200万

每日经济新闻
2026-05-01 09:20:08
半场赢47分,最多领先61分!尼克斯创3纪录4-2老鹰,阿奴诺比29+7

半场赢47分,最多领先61分!尼克斯创3纪录4-2老鹰,阿奴诺比29+7

湖人崛起
2026-05-01 09:43:06
1-3落后拖入抢七!35岁乔治系列赛最佳战躺地庆祝:被赞重返巅峰

1-3落后拖入抢七!35岁乔治系列赛最佳战躺地庆祝:被赞重返巅峰

颜小白的篮球梦
2026-05-01 10:44:46
沉默45年后,中国第二轮“严打”终于来了!但这次目标变了

沉默45年后,中国第二轮“严打”终于来了!但这次目标变了

吃货的分享
2026-04-30 18:52:37
iPhone用户为什么突然集体装VPN

iPhone用户为什么突然集体装VPN

我是一个养虾人
2026-05-01 07:00:40
一手好牌打个稀烂,直到张军被调查,才明白,林丹的选择有多清醒

一手好牌打个稀烂,直到张军被调查,才明白,林丹的选择有多清醒

林子说事
2026-04-30 18:33:16
约基奇第2次一轮游:100场季后赛里程碑 轰28+9+10难阻被下克上

约基奇第2次一轮游:100场季后赛里程碑 轰28+9+10难阻被下克上

醉卧浮生
2026-05-01 12:22:51
孙杨博士入学资格受质疑,上海体育大学研招办:已注意到网络反映的情况,正调查跟进 ;孙杨曾透露其父母均毕业于上体

孙杨博士入学资格受质疑,上海体育大学研招办:已注意到网络反映的情况,正调查跟进 ;孙杨曾透露其父母均毕业于上体

大风新闻
2026-04-30 22:19:03
访华第二天,澳外长在北京提一请求,话音刚落,中方同意拉澳一把

访华第二天,澳外长在北京提一请求,话音刚落,中方同意拉澳一把

近史博览
2026-05-01 11:13:47
美国披露数据:中国战略石油储备量全球第一

美国披露数据:中国战略石油储备量全球第一

极目新闻
2026-04-30 21:40:56
2026-05-01 13:19:00
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
584文章数 8345关注度
往期回顾 全部

科技要闻

苹果上季在华收入继续大增 iPhone收入新高

头条要闻

银行员工转走储户1800万元喝药轻生 官方最新回应

头条要闻

银行员工转走储户1800万元喝药轻生 官方最新回应

体育要闻

季后赛场均5.4分,他凭啥在骑士打首发?

娱乐要闻

邓超在景德镇被偶遇,穿黑外套逛茶园

财经要闻

GPU神话松动,AI真正的战场变了

汽车要闻

专访捷途汪如生:捷途双线作战 全球化全面落地

态度原创

时尚
本地
数码
健康
艺术

今年夏天的裙子,长长长长一点更好看!

本地新闻

用青花瓷的方式,打开西溪湿地

数码要闻

英特尔酷睿5 330处理器首次现身PassMark平台

干细胞治烧烫伤面临这些“瓶颈”

艺术要闻

刘明华 2026油画新作(2024-2026)

无障碍浏览 进入关怀版