网易首页 > 网易号 > 正文 申请入驻

国产推理大模型决战2025考研数学,看看谁第一个上岸?

0
分享至

机器之心发布

机器之心编辑部

随着上个月 2025 研究生考试的结束,最新的考研数学真题成为大语言模型尤其是推理模型的「试炼场」,将考验它们的深度思考能力。

业内曾有着这样一种共识:大语言模型在文字水平上的表现令人印象深刻,但说到数学就不甚令人满意了。去年一度火出圈的「9.9 与 9.11」比大小的问题,包括 GPT-4o 在内的很多大模型都翻车了,直到深度推理模型出现后才从根本上改善了这一状况。

OpenAI 发布的 o1 模型在涉及复杂和专业的数理问题方面表现让人印象深刻,大模型在经过一定时间仔细思忖后,回答问题的能力和准确度大幅提升,这种被称为推理侧 Scaling Law 的现象已经成为继续推动大模型能力提升的关键力量。在黄仁勋最新 CES 2025 的演讲中,他也把测试时(即推理)Scaling 形容为大模型发展的三条曲线之一。

可以看到,继 o1 之后,国内大模型厂商也陆续推出了自己的深度推理模型,并在某些任务上有亮眼的表现。数了一下时间轴大概是这样的:

  • 2024 年 11 月 21 日,深度求索团队发布 DeepSeek-r1 模型;
  • 2024 年 11 月 28 日,阿里通义团队发布 QwQ 模型;
  • 2024 年 12 月 16 日,月之暗面团队发布 Kimi-k1 模型;
  • 2024 年 12 月 31 日,智谱 GLM 团队发布 GLM-Zero 模型;
  • 2025 年 1 月 6 日,昆仑万维发布 Skywork-o1 模型。

大家也许会好奇,这些深度推理模型的能力(尤其是数学推理能力)到底有多强,又是谁能拔得头筹呢?这时就需要一场公平的标准化考试了。

清华 SuperBench 大模型测评团队(以下简称测评团队)为了全面评估这些模型在数学推理方面的能力,结合 2025 年考研数学(一、二、三)的试题,专门对以上各家深度推理模型进行了严格的评测。同时,为了确保评测的全面性,参与评测的还包括各家的旗舰基础模型。

此次选择的 13 个模型具体如下:

从结果来看,所有模型中以平均分计,第一名是 OpenAI 的 GPT-o1模型,这也是没什么意外的。第二名则是来自智谱的 GLM-Zero-Preview,它以三门数学平均 138.70 的成绩仅次于 o1,成为国产大模型第一,且距第一名不到 3 分。第三名则是来自通义的 QwQ

测试方法

在本次评测过程中,测评团队发现并非所有模型均提供 API 支持,且部分提供 API 服务的模型在输出内容长度超出一定限制时,会出现内容截断的情况。为确保评测工作的公正性与准确性,测评团队决定统一采用各模型厂商的网页端进行测试操作。

在测试过程中,每道题目均在独立的对话窗口中进行,以此消除上下文信息对测试结果可能产生的干扰。

鉴于部分模型输出存在一定不稳定性,为降低由此引发的分数波动,测评团队设定当同一模型在三次测试中有两次及以上回答正确时,方将其记录为正确答案。

结果分析

接下来从测试总分、单张试卷分数、深度思考模型 vs 基础模型三个方面来详细分析此次测评的结果。

总分

对于总分数,测评团队对三张试卷的分数进行求和并计算平均值,按照分数高低进行排序。结果如下图所示:

从图中可以看到,GPT-o1 仍然处于领先的地位,是唯一一个达到 140 分以上的模型,相较于排名末位的 GPT-4,分数优势高达 70 分

位于第二梯队(130 分以上)的模型有 GLM-zero-preview 和 QwQ,分别斩获 138.7 分和 137.0 分。

DeepSeek-r1-lite、Kimi-k1、Tiangong-o1-preview、DeepSeek-v3 则处于第三梯队(120 分以上)。

可以看出,深度思考模型普遍能够达到 120 + 的水平。这也彰显了深度思考模型在解决数学问题方面的强大能力。

值得注意的是,曾于 2023 年位居榜首的基础模型GPT-4,在本次测试中仅获 70.7 分,位列末席。这一结果表明,在过去一年(2024 年)中,语言模型在数学推理领域的进步显著。

而另一方面,在缺乏深度思考能力辅助的情况下,仅凭逻辑推理能力,DeepSeek-v3 作为基础模型,已经能够跻身第三梯队,这说明基础模型和深度思考模型之间的能力并非界限分明。

单张试卷分析

为了更清晰地展现大模型在各张试卷答题能力方面的表现,测评团队对每张试卷的错题分布情况进行了深入分析。

在数学一的评测过程中,GPT-o1、GLM-zero-preview、QwQ、DeepSeek-r1-lite 四款模型的得分相同。通过进一步剖析错题情况,测评团队发现所有模型均在第 20 题(12 分,涉及曲面积分求解)以及第 21 题第二问(6 分,涉及特征向量求解)上出现了错误。

在数学二的评测中,各模型的分数分布较为分散。经统计分析发现,第 3 题、第 5 题、第 7 题成为所有模型犯错的集中区域。具体错题分布情况如下图所示:

针对数学三的评测结果显示,模型出错的重灾区主要集中在第 14 题、第 15 题、第 16 题、第 19 题。相关错题分布情况如下图所示:

综合上述各试卷错题的具体分析,我们可以清晰地看到,GPT-o1(阴影列所示)在总计 66 道题目中,仅答错 3.5 道题;并且 GPT-o1 答错的题目,其他模型亦普遍存在错误,这显示了GPT-o1 目前依然是深度推理模型的天花板

基础模型 vs 深度思考模型

最后,为了全面深入地探究各模型厂商在深度思考能力优化方面所取得的成果,测评团队对相应基础模型与深度思考模型进行了细致对比分析。

需要说明的是,此处对比并非意味着各深度思考模型是基于对应基础模型所做优化,其主要目的在于直观呈现各厂商在模型综合能力提升方面的进展与成效。

相关对比结果如下图所示:

注:OpenAI 的基础模型采用的是 GPT-4o。

通过对比分析,OpenAI 的深度思考模型 GPT-o1 相较于基础模型 GPT-4o,提升幅度最为显著,达到 57.3 分。紧随其后的是阿里的 Qwen 模型和智谱的 GLM 模型,提升幅度分别为 47.0 分和 34.3 分。

另外,深度求索和月之暗面的提升幅度相对较小,这主要是由于其基础模型本身分数较高。以深度求索为例,其基础模型 DeepSeek-v3 初始分数高达 120.3 分,在参评基础模型中位居榜首。

在本次测试中,测评团队选取表现最为优异的基础模型 DeepSeek-v3 作为参照基准,进而对各厂商深度思考模型的性能提升情况进行评估,相关数据呈现如下图所示:

可以看出,OpenAI、智谱、阿里在深度思考模型上的性能提升做了很大的优化,而 DeepSeek-v3 等其他模型在本项测试中的结果基本接近。

这些测试结果一一看下来,我们可以发现:虽然 OpenAI 的 o1 在深度推理方面仍然是最强的,但国产推理大模型正在逐渐缩小与它的差距,此次智谱 GLM-zero-preview 和阿里 QwQ 的成绩说明了这一点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
起底那个声称海参崴不存在的微博大v杜建国

起底那个声称海参崴不存在的微博大v杜建国

笔杆论道
2026-05-13 00:01:53
1-1!C罗摇头叹息,胜利遭98分钟压哨绝平,新月重燃夺冠希望

1-1!C罗摇头叹息,胜利遭98分钟压哨绝平,新月重燃夺冠希望

我的护球最独特
2026-05-13 04:11:44
女生没电脑每天去电竞馆学习十几小时获免单,店主:很难得,少一台机器没什么,只是一点电费而已,并不觉得亏

女生没电脑每天去电竞馆学习十几小时获免单,店主:很难得,少一台机器没什么,只是一点电费而已,并不觉得亏

大象新闻
2026-05-12 23:42:06
曹操撩寡妇时说的金句,如今成了约会开场白,男人经常挂在嘴边

曹操撩寡妇时说的金句,如今成了约会开场白,男人经常挂在嘴边

掠影后有感
2026-05-11 11:31:38
2016年,黎明和助理陈泳仪的合影,2年后,陈助理成了黎夫人

2016年,黎明和助理陈泳仪的合影,2年后,陈助理成了黎夫人

喜文多见01
2026-05-03 12:41:06
抢在接机前,特朗普随行名单变了,英伟达出局,外交部四字表态

抢在接机前,特朗普随行名单变了,英伟达出局,外交部四字表态

傲傲讲历史
2026-05-13 00:04:46
白宫公布名单,16位美国商界领袖将随特朗普访华

白宫公布名单,16位美国商界领袖将随特朗普访华

界面新闻
2026-05-12 21:23:09
女子推搡哨兵后续:官媒发声,知情人爆料,恐不止坐牢这么简单

女子推搡哨兵后续:官媒发声,知情人爆料,恐不止坐牢这么简单

千言娱乐记
2026-05-12 15:10:56
“我妈有两个老公”事件升级!余思悦内部道歉流出,水平低到离谱

“我妈有两个老公”事件升级!余思悦内部道歉流出,水平低到离谱

火山詩话
2026-05-13 05:29:54
广东出局揪出最失望球员!全场0分+带女友到客场,球迷:卖掉算了

广东出局揪出最失望球员!全场0分+带女友到客场,球迷:卖掉算了

南海浪花
2026-05-13 07:48:38
三年退款2700次!一哥们把「仅退款」当班上,把自己上进了局子

三年退款2700次!一哥们把「仅退款」当班上,把自己上进了局子

雷科技
2026-05-12 22:06:26
不能二次加热的6种食物!医生提醒:吃不完或倒掉,别乱节俭

不能二次加热的6种食物!医生提醒:吃不完或倒掉,别乱节俭

冷眼看世界728
2026-05-12 20:46:26
莫狗下课!大快人心!白送3新星!他才是拆队专家!

莫狗下课!大快人心!白送3新星!他才是拆队专家!

柚子说球
2026-05-13 08:53:18
美国B-29迫降苏联后,斯大林下令:全面模仿,连钻错的洞都不准改!

美国B-29迫降苏联后,斯大林下令:全面模仿,连钻错的洞都不准改!

爆角追踪
2026-05-12 17:13:53
以前叫人家强哥,现在请叫植物

以前叫人家强哥,现在请叫植物

阿亮评论
2026-05-12 12:18:33
日本大型电机制造企业尼得科公司被曝大规模造假

日本大型电机制造企业尼得科公司被曝大规模造假

每日经济新闻
2026-05-12 22:54:35
明朝开国猛将后裔连丧两婴,绝望中生下毛泽东,大字不识的八岁幼童为何能脱口作诗?

明朝开国猛将后裔连丧两婴,绝望中生下毛泽东,大字不识的八岁幼童为何能脱口作诗?

寄史言志
2026-05-12 17:57:29
卖掉格力换来的416亿,被他们“败”光了!

卖掉格力换来的416亿,被他们“败”光了!

犀利强哥
2026-05-11 08:30:22
起底 Token 中转黑色产业链:日赚 200 万美金!大佬扎堆入局,灰色套利套路碾压现金贷

起底 Token 中转黑色产业链:日赚 200 万美金!大佬扎堆入局,灰色套利套路碾压现金贷

新浪财经
2026-05-12 00:15:49
父亲病危后女子请假陪护屡遭拒,父亲去世当天她因“旷工”被公司辞退,此前公司还向其发送旷工催告函;法院:公司于期限内支付70000元

父亲病危后女子请假陪护屡遭拒,父亲去世当天她因“旷工”被公司辞退,此前公司还向其发送旷工催告函;法院:公司于期限内支付70000元

极目新闻
2026-05-13 07:57:10
2026-05-13 09:08:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
12979文章数 142648关注度
往期回顾 全部

教育要闻

西电就业,大变天!

头条要闻

牛弹琴:印度的大麻烦来了 CNN的报道更是触目惊心

头条要闻

牛弹琴:印度的大麻烦来了 CNN的报道更是触目惊心

体育要闻

骑士终于玩明白了?

娱乐要闻

白鹿风波升级!掉粉20万评论区沦陷

财经要闻

深圳夫妻囤芯片,身家飙涨320亿

科技要闻

谷歌剧透安卓重大升级 Gemini深度集成底层

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

游戏
旅游
健康
公开课
军事航空

《共鸣:瘟疫传说传承》新截图 画面相当唯美!

旅游要闻

占地3.2平方公里,它是西安的国家遗址公园,坐高铁离广元不远!

干细胞能让人“返老还童”吗

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

知情人士披露:美国或考虑恢复对伊朗军事行动

无障碍浏览 进入关怀版