网易首页 > 网易号 > 正文 申请入驻

GPT-5、Grok 4、o3 Pro都零分,史上最难AI评测基准换它了

0
分享至

机器之心报道

机器之心编辑部

前沿 AI 模型真的能做到博士级推理吗?

前段时间,谷歌、OpenAI 的模型都在数学奥林匹克(IMO)水平测试中达到了金牌水准,这样的表现让人很容易联想到 LLM 是不是已经具备了解决博士级科研难题的推理能力?

然而,现实可能并不如想象中那么乐观。

AAI,一个专注于超智能和高级 AI 系统研究的机构,近期提出的一个新基准 FormulaOne,让一众大模型集体得零分,包括 GPT-5、o3 Pro、Gemini 2.5 Pro、Grok 4 等前沿模型。

  • HuggingFace:https://huggingface.co/spaces/double-ai/FormulaOne-Leaderboard

FormulaOne 包含 220 个新颖的图结构动态规划问题,按难度分为三类,从中等难度直至科研级别。其中最高等级难度的题包括拓扑与几何、组合问题分析等。

测试题的具体示例如下:依次是浅层难度、深层难度、更深层难度。

尽管这些问题陈述起来通常很自然,但其解决方案却远非显而易见。这一大类问题的可解性由 Courcelle 提出的一个算法元定理所保证,该定理大致可以表述为:

「对于每个足够类似树的图,任何可用一种富有表现力的形式逻辑(一元二阶逻辑)定义的问题,都可以通过一个动态规划算法来解决,且其运行时间与图的阶数成线性关系。」

其关键在于使用一种称为树分解的结构,它将图的顶点组织成一系列重叠的集合,即「袋」,而这些「袋」本身则以树状结构排列。

然后,算法可以遍历这个由「袋」构成的树,并使用动态规划分步解决问题。这个过程涉及到设计一个「状态」,该「状态」总结了「袋」内部分解的所有必要信息,然后定义当顶点被引入、遗忘或当「袋」被合并时,该「状态」如何转换。

视频链接:https://mp.weixin.qq.com/s/cyOJ_Id606REj97nCXYqhg

问题陈述看似简单,但这背后实则掩盖了发现正确动态规划解法的非凡难度。这个过程遍布着微妙的组合与逻辑陷阱,要求(研究者)对问题的底层结构有深刻的理解。关于解决一个名为Maximal-Cluster-Graph的难题所需的十五个相互依赖的推理步骤,其详细的推演过程请参阅论文的附录。

  • 论文地址:https://arxiv.org/pdf/2507.13337

这个工作在社交媒体上引发了很大关注,许多人表示应该让人类博士生也参与评估。

结果

在浅层难度上,顶尖模型的表现达到了 50%–70%,表明它们对相关问题类型已有一定熟悉度,换句话说,这些任务完全处于它们的训练分布之内。

在深层难度上,Grok 4、Gemini-Pro、o3-Pro、Opus-4 等模型最多只能解出 1/100 的题目;GPT-5 Pro 表现相对更好,但也只解出了 4/100。

在最深层难度上,所有模型的成功率均为 0%,集体崩溃。

AAI

AAI(AA-I Technologies,Double AI)是一家由以色列知名企业家、科学家 Amnon Shashua 于 2023 年 8 月在耶路撒冷创办的人工智能初创公司。

Shashua 是自动驾驶公司 Mobileye、AI21 Labs 和 OrCam 等多个知名项目的创始人,在自动驾驶、人工视觉和 AI 领域具有极高声誉。

AAI 的核心目标是推动「人工专家智能」(Artificial Expert Intelligence,AEI)的理论与应用,提出区别于传统窄域 AI 和 AGI 的新 AI 发展路径。这种 AEI 强调将领域知识与严密的科学推理能力相结合,旨在突破「只擅长特定任务」或「泛化无精度」的传统瓶颈,使 AI 可以像顶级人类专家一样,运用严谨推理来解决复杂科学或工程难题。

创立一年内,据报道公司已吸引了数千万美元投资,并在 AWS 2024 年生成式 AI 加速器项目中入选(获赠 100 万美元计算资源),加速自身 AI 基础设施建设。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
唐时达学历争议:为何连大学都没考上的人,竟能一路读到博士后?

唐时达学历争议:为何连大学都没考上的人,竟能一路读到博士后?

江启
2026-08-22 17:01:30
中共中央 国务院 中央军委  关于给张陆颁发“二级航天功勋奖章”  授予武飞、张洪章“英雄航天员”荣誉称号  并颁发“三级航天功勋奖章”的决定

中共中央 国务院 中央军委  关于给张陆颁发“二级航天功勋奖章”  授予武飞、张洪章“英雄航天员”荣誉称号  并颁发“三级航天功勋奖章”的决定

新华社
2026-08-20 16:55:02
被滥用的购买力平价(PPP)

被滥用的购买力平价(PPP)

生命可以承受之轻
2026-08-24 13:03:21
吞并加拿大?遭报复后,特朗普发声

吞并加拿大?遭报复后,特朗普发声

阿离家居
2026-08-24 17:00:15
新一轮扫黑除恶金融严打开启:大批贷款中介倒查旧账被立案

新一轮扫黑除恶金融严打开启:大批贷款中介倒查旧账被立案

职场资深秘书
2026-08-24 20:43:20
重庆铜梁龙八轮不胜首发 11 人仅 7 人能踢中超,怪球员还是怪教练?

重庆铜梁龙八轮不胜首发 11 人仅 7 人能踢中超,怪球员还是怪教练?

云隐南山
2026-08-24 16:34:49
2014年,抓奸妻子出轨2个堂兄后,要求奸夫老婆轮流陪自己一个月, 遭拒后男子怒杀奸夫全家

2014年,抓奸妻子出轨2个堂兄后,要求奸夫老婆轮流陪自己一个月, 遭拒后男子怒杀奸夫全家

法网恢恢
2026-08-21 23:35:28
伊朗打破中东交锋惯例,对美军使出史无前例的一招,中国也出手了

伊朗打破中东交锋惯例,对美军使出史无前例的一招,中国也出手了

叹为观止易
2026-08-21 08:08:49
中国女篮怎么了?第4输给第14,老将集体消失,宫鲁鸣的帅位悬了

中国女篮怎么了?第4输给第14,老将集体消失,宫鲁鸣的帅位悬了

寒律
2026-08-25 03:29:17
越南终于承认:中国给的不是教训,而是毁灭,28年援建全烟消云散

越南终于承认:中国给的不是教训,而是毁灭,28年援建全烟消云散

无悔的灿烂人生
2026-07-22 10:27:11
郭德纲结局早已注定!不是输在对错,而是时代需要他“背锅”,人性最丑陋的一面,在这场风波里暴露无遗

郭德纲结局早已注定!不是输在对错,而是时代需要他“背锅”,人性最丑陋的一面,在这场风波里暴露无遗

老郭说v
2026-08-24 01:27:30
汤家凤凌晨怒斥:教授惹祸学校沉默,当事人装聋作哑才是最大恶果

汤家凤凌晨怒斥:教授惹祸学校沉默,当事人装聋作哑才是最大恶果

天天热点见闻
2026-08-24 08:17:58
陈伟霆十年了还没释怀人贩子梗!带长大的侄女出镜,反问“如果是人贩子能养得这么大吗”

陈伟霆十年了还没释怀人贩子梗!带长大的侄女出镜,反问“如果是人贩子能养得这么大吗”

韩小娱
2026-08-22 15:54:28
43岁范冰冰受封拿督,事业疑获新大佬支持,全面进军海外市场

43岁范冰冰受封拿督,事业疑获新大佬支持,全面进军海外市场

萌神木木
2025-08-24 13:52:35
美媒终于承认,把门锁死不让中国技术进来,美国企业越来越落后

美媒终于承认,把门锁死不让中国技术进来,美国企业越来越落后

近代风云传
2026-08-19 16:07:44
女排横扫伊朗3喜1忧!庄宇珊太稳,刁琳宇太重要,唐欣防守辣眼!

女排横扫伊朗3喜1忧!庄宇珊太稳,刁琳宇太重要,唐欣防守辣眼!

篮球资讯达人
2026-08-24 21:07:07
浅论:亚洲足球传奇人物榜单为何仅有三名中国球员上榜?

浅论:亚洲足球传奇人物榜单为何仅有三名中国球员上榜?

K唐伯虎
2026-08-22 08:10:28
阜阳理工学校副县级校长汪兴国接受纪律审查和监察调查

阜阳理工学校副县级校长汪兴国接受纪律审查和监察调查

安青传媒
2026-08-24 12:39:26
癌症复发5次,他靠这招降服癌细胞,平稳生存21年

癌症复发5次,他靠这招降服癌细胞,平稳生存21年

何裕民教授
2026-08-24 16:41:13
俄国防部披露:单日击落269架乌克兰无人机 普京:想破坏俄罗斯后勤?接招吧

俄国防部披露:单日击落269架乌克兰无人机 普京:想破坏俄罗斯后勤?接招吧

每日经济新闻
2026-08-24 16:04:00
2026-08-25 04:24:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13835文章数 142724关注度
往期回顾 全部

科技要闻

宇树科技,3天跌了1000亿

头条要闻

"店主扶老人遭索赔1.9万"协议书公开 完整视频披露

头条要闻

"店主扶老人遭索赔1.9万"协议书公开 完整视频披露

体育要闻

42张照片 珍藏世界杯的热辣滚烫

娱乐要闻

韩沛颖开撕《主角》剧组引发全网热议

财经要闻

宇树IPO:追高、被套,多久能回血?

汽车要闻

智能超混 国民家轿 上汽大众ID. ERA 5S上市 限时8.99万元起

态度原创

旅游
亲子
健康
艺术
公开课

旅游要闻

不靠古镇不靠洱海,大理小众村落,凭一片古树林惊艳世人!

亲子要闻

自从去了游泳后,阿金被小霖霖整懵了,笑到无语,像绕口令一样

孩子有脊柱侧弯,还能正常运动吗?

艺术要闻

全球最美Top10刚刚曝光!第1名居然是她?迪丽热巴才排58?网友:这榜单疯了吧!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版