网易首页 > 网易号 > 正文 申请入驻

所有AI全军覆没!学者出2500道题,GPT-5得分25.3%,GPT-4o 2.7%

0
分享至

近日,由全球近 1,000 名顶尖学者打造的 AI 新基准“人类最后一次考试”(HLE,Humanity's Last Exam)的相关论文发在Nature。这套新试卷覆盖数学、物理、化学、历史、语言、医学,每一道题都来自专家自己的研究领域,每一道题都有唯一正确的答案,每一道题也都经过 AI 的经验,如果哪个 AI 能够答对,这道题就会作废。

结果呢?GPT-4o 只拿了 2.7%,Claude 3.5 Sonnet 4.1%,OpenAI 最先进的 o1 模型,8%。发布之后,更强的 Gemini 2.5 Pro 和 GPT-5 也来挑战,一个 21.6%,一个 25.3%。可谓是全军覆没,没有一个能及格。

之所以出这套新卷子,是因为当前最聪明的大模型在那些曾难倒无数学生的考试里,已经能够考到 90 分以上。MMLU这样一个包含 57 个学科、14,000 道题目的超难测试,AI 早就拿到了接近满分的成绩。

因此,“人类最后一次考试”的推出正是为了跟上和适应 AI 的发展。那么,这套题到底有多难?

有一道题是一张古罗马墓碑的照片,上面刻着帕尔米拉文字,要求 AI把它翻译出来。帕尔米拉是古代叙利亚的一个城市,有自己的语言和文字,但是现在已经没人说了。翻译这种文字,需要懂古闪米特语、懂考古学、懂历史学。

另一道题问:蜂鸟身上有一块特殊的籽骨,位于某块肌肉的腱膜里,这块骨头支撑着几根肌腱?答案是数字。这就需要 AI 知道蜂鸟的解剖结构,知道那块骨头长在哪儿,知道它连着几根肌腱,差一点都不行。

还有一道题是数学,关于自然变换和余端,里面充满了Σ、∞、Hom 这些符号。题目本身已经复杂到让大多数数学系学生直接跳过,但答案要求却是精确数字。

这套题的设计逻辑很残酷。每一道题提交之前,都要让 AI 先做一遍。如果 AI 做对了,这道题就不要。如果 AI 做错了,才会进入人工审核环节。审核要过两关,第一关是几个研究生水平的审稿人提意见,第二关是专家拍板。整个过程下来,1,000 个专家花费几个月,从几万道题里筛选出了这 2,500 道题。

如前所述,MMLU 已经无法满足当前 AI 的发展。2020 年,MMLU 刚出来的时候,AI 只能考三四十分。到了 2023 年,GPT-4 直接飙到 86 分。现在,随便一个开源模型都能考到 90 分以上。当考试分数都溢出来了,如何测量 AI 的聪明程度呢?因此,得换一套更难的新卷子。

“人类最后一次考试”这套基准测试名字听着吓人,但并不是字面意思,而是说这是 AI 最后一次可能考过的考试。等到 AI 哪天也在这套题上拿到 90% 的成绩,说明它已经具备了专家级的学术能力。

那么,AI 现在可以考多少分?前面提到,最厉害的 AI 也就考试 25% 左右,距离 90% 还有很大的差距。而且更有意思的是,AI 不知道自己不会。研究团队在让 AI 回答的同时给出信心分数,结果大多数 AI 明明答错了,却给出 80%、90% 的信心。这种过度自信非常危险,如果 AI 用在医疗和法律这些领域,而它不知道自己不知道,就会出现大问题。

还有一点值得注意。研究团队发现,推理模型在回答这套题的时候,思考时间越长,正确率越高。但当思考时间超过一定长度,正确率反而下降了。这说明不是想得越久就越好,当思考时间超过某个临界点,可能就是 AI 在瞎绕。这也给 AI 开发提了个醒,以后不能光拼推理时间,还得拼推理效率。

这套题现在已经在网上公开了一部分,网址是 lastexam.ai。任何人都可以去看看这些题目长什么样,也可以看看自己能不能答对几道。当然,大部分人可能不太能答对,因为题目本来就是给专家出的。

那么,这道题对于 AI 开发有什么用?

它就好比一面镜子,可以照出来 AI 到底有几斤几两。以后谁再宣称自己的 AI 多厉害,先拿这套题目考一下。考不过 25%,就谈不上超越人类。透过这套题也可以看清楚 AI 擅长什么和不擅长什么。比如,从目前的得分来看,AI 在数学和计算机上的表现稍好,但是在历史和语言上表现得惨不忍睹。

这说明 AI 的智能和我们想象得还不一样。论文里有一句话写得很克制,AI 在这些专家级问题上表现很差,说明真正的智能还需要深度、需要上下文、需要专业知识。那些觉得 AI 马上就要统治世界的人,通过尝试一下这套题目,可能就不再会那么悲观。

美国德克萨斯 A&M 大学的助理教授阮东(Tung Nguyen,音译)参与了出题,他写了 73 道,是贡献第二多的作者。他告诉媒体,这套题是一种理解 AI 的方法。它就好比是 AI 的入学考试,通过设置这套门槛,我们可以知道 AI 强在哪里、弱在哪里,才能造出更安全、更可靠的技术。同时,也说明了人类的专业知识依然重要。

参考资料:

相关论文https://www.nature.com/articles/s41586-025-09962-4

https://techxplore.com/news/2026-02-dont-panic-humanity-exam-begun.html#google_vignette

排版:胡巍巍

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国内金饰价格集体下跌

国内金饰价格集体下跌

环球网资讯
2026-11-12 22:04:50
公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

只要高兴就好
2026-09-24 11:58:50
史上最大GPU盗窃案!英伟达7600万芯片整车蒸发

史上最大GPU盗窃案!英伟达7600万芯片整车蒸发

环球零碳
2026-11-11 21:38:08
罗大佑炮轰赖清德

罗大佑炮轰赖清德

极目新闻
2026-11-11 07:22:32
小泽坚持对普京追责 欧洲军人进驻乌克兰

小泽坚持对普京追责 欧洲军人进驻乌克兰

西楼饮月
2026-11-12 22:16:52
WTT挑战赛!爆大冷,国乒女单0-3完败,桥本剃光头,平野美宇3-1

WTT挑战赛!爆大冷,国乒女单0-3完败,桥本剃光头,平野美宇3-1

南海浪花
2026-11-13 01:13:24
黄乐中学旧照曝光,班花身份引热议!!!

黄乐中学旧照曝光,班花身份引热议!!!

情感大头说说
2026-11-13 01:58:07
免签封神!穆里尼奥捡到世界第一铁闸!皇马新援彻底爆发

免签封神!穆里尼奥捡到世界第一铁闸!皇马新援彻底爆发

澜归序
2026-11-12 09:24:31
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
红果热播榜杀疯了!《万妖图录传》跌落第2,榜首破亿逆袭第一!

红果热播榜杀疯了!《万妖图录传》跌落第2,榜首破亿逆袭第一!

阿废冷眼观察所
2026-11-12 04:56:01
女子购书近200元,落座咖啡区被要求再消费,当场退书离店;书店:咖啡区独立核算,所有门店均如此

女子购书近200元,落座咖啡区被要求再消费,当场退书离店;书店:咖啡区独立核算,所有门店均如此

半岛官网
2026-11-12 17:27:53
黄仁勋妻子发声,陪他走过 40 年,简短回应足以看出这女人的格局

黄仁勋妻子发声,陪他走过 40 年,简短回应足以看出这女人的格局

小怪吃美食
2026-11-11 19:23:29
随着比利时2-1,意大利3-1逆转法国,西班牙2-0,英格兰2-1,欧国联最新积分榜出炉

随着比利时2-1,意大利3-1逆转法国,西班牙2-0,英格兰2-1,欧国联最新积分榜出炉

侧身凌空斩
2026-11-13 05:53:51
有人可能不知道,东北不少屯子,有接近一半人有俄罗斯血统

有人可能不知道,东北不少屯子,有接近一半人有俄罗斯血统

言过于诚
2026-11-10 21:14:12
30岁超模贝拉·哈迪德晒新恋情,一头铂金发抢镜

30岁超模贝拉·哈迪德晒新恋情,一头铂金发抢镜

生活观察员啊
2026-11-12 04:21:30
如果牛顿的贡献值是100,爱因斯坦是90,那么杨振宁大概是多少?

如果牛顿的贡献值是100,爱因斯坦是90,那么杨振宁大概是多少?

离离言几许
2026-07-28 15:29:13
11月12日俄乌:星盾再次被限速,俄军每天损失一个团

11月12日俄乌:星盾再次被限速,俄军每天损失一个团

山河路口
2026-11-12 21:08:03
高芙2-0完胜世界第10,避免WTA年终总决赛2连败

高芙2-0完胜世界第10,避免WTA年终总决赛2连败

侧身凌空斩
2026-11-13 05:58:18
特朗普公开力挺,黄仁勋风波升级,外交部反击,中方才不是软柿子

特朗普公开力挺,黄仁勋风波升级,外交部反击,中方才不是软柿子

莫地方
2026-11-13 05:55:08
并不是迷信!如果房地产救不活,明年中国的房价就躲不开四个问题

并不是迷信!如果房地产救不活,明年中国的房价就躲不开四个问题

石辰搞笑日常
2026-11-13 03:34:07
2026-11-13 06:35:00
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17483文章数 515348关注度
往期回顾 全部

科技要闻

突发!黄仁勋辞职,英伟达CFO临时接任

头条要闻

小伙疑遭拘禁殴打20天瘦至60斤 被解救送回家次日死亡

头条要闻

小伙疑遭拘禁殴打20天瘦至60斤 被解救送回家次日死亡

体育要闻

库里已前往医院接受MRI 专家预测伤停2周

娱乐要闻

空军生日当天,央视公开“点名”肖战

财经要闻

黄仁勋,辞职

汽车要闻

埃安Ray7上市限时11.47万元起 702km续航/L4同源智驾

态度原创

艺术
家居
游戏
旅游
军事航空

艺术要闻

这位法国女摄影师,专拍“不努力”的人像,却把肌肤之美拍到了封神级别

家居要闻

2026建博会(广州) 公装联探展交流活动

GEN晋级S16决赛后,Ruler透露三年内退役,不打职业后想尝试杀猪!

旅游要闻

有人欢喜有人愁,有人出游有人补课,长沙秋假以N种方式打开!专家:不必跟风,适合的就是最好的

军事要闻

俄乌宣告达成换俘协议

无障碍浏览 进入关怀版