网易首页 > 网易号 > 正文 申请入驻

我用40条提示词实测Qwen2.5和Qwen3,结果和官方跑分不太一样

0
分享至

为什么没直接信跑分

Qwen3公布的基准测试看起来对Qwen2.5是全面领先——MMLU-Pro、数学和编程任务都有实打实的提升,训练数据量也大得多,大约是36万亿个token,而Qwen2.5是18万亿,支持的语言数量也远超前者。单看纸面数据,把项目切到Qwen3应该是顺手的事。


但我还是想要自己的数字。通用基准只能说明一个模型平均表现如何,没法告诉你它在你的应用实际收到的那类特定、有时很奇怪的提示词上会怎么答。所以我写了个小脚本,把同一组提示词分别喂给两个模型,把结果并排记录下来。

评测脚本长什么样

脚本本身不复杂,就是遍历一个测试提示词列表,对每个提示词分别调用两个模型,然后把输出写进CSV方便人工复核。我特意把temperature设成0,减少多次运行之间的随机性,让对比反映的是模型本身的差异,而不是采样噪声。

测试提示词围绕工单分类场景设计,比如“把这条客服消息分类:‘我这周付款失败了两次。’”以及“用户说发票总额和之前报价对不上,这该归到哪一类,你会追问什么问题?”模型对比列表里放了三个:qwen2.5-72b-instruct、qwen3-235b-a22b,以及qwen3-235b-a22b-instruct。

40条提示词跑下来发现了什么

在40条针对工单分类场景的提示词上,普通版Qwen2.5-72B-Instruct和Qwen3-235B-A22B(默认的混合思考版本)整体表现接近。Qwen3在更模糊、需要多步推理的提示词上赢得比较明显,但在简短、没有歧义的提示词上,Qwen2.5的回复更快,偶尔还更直接可用,不需要额外解析。

更大的差别出现在把qwen3-235b-a22b-instruct加进来之后。这是Qwen单独发布的非思考型Instruct版本,作为第三个对比点。它在简单提示词上的速度和Qwen2.5相当,在更难的那批提示词上又仍然压过Qwen2.5。这个结果和我后来读Qwen3最初发布资料时看到的情况对得上:早期对原版混合思考型Qwen3模型的评测显示,它在一些智能体和指令遵循基准上反而落后于Qwen2.5。

选型时值得留意的点

这次小规模实测给我的提醒是:官方跑分和实际业务提示词之间可能存在落差,尤其是当你的场景偏重指令遵循和响应速度,而不是纯推理能力时。把非思考型Instruct版本纳入对比,比只盯着默认混合思考版本更能看出哪个模型真正适合上线。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新一轮机关事业单位大清理 , 这6种人员将被辞退 , 多地重拳出击!

新一轮机关事业单位大清理 , 这6种人员将被辞退 , 多地重拳出击!

细说职场
2026-08-25 20:18:37
清华博士领读Kimi K3技术报告:大模型可能没有太大创新,后面都是改良性进步

清华博士领读Kimi K3技术报告:大模型可能没有太大创新,后面都是改良性进步

闪存猎手
2026-08-26 19:13:05
陈震称26.99万新世代iX3最值,大圆柱电池非重点,这合理吗?

陈震称26.99万新世代iX3最值,大圆柱电池非重点,这合理吗?

刘哥谈体育
2026-08-27 05:57:24
“戏混子”没走,比资本家丑孩子更可怕的是“星二代”开始世袭了

“戏混子”没走,比资本家丑孩子更可怕的是“星二代”开始世袭了

流史岁月
2026-01-26 10:58:30
韩国遇害女生案细节曝光!凶手报完警正常生活5天,警方问话识破

韩国遇害女生案细节曝光!凶手报完警正常生活5天,警方问话识破

社会日日鲜
2026-08-26 13:34:06
章子怡首次独自在微博为小苹果庆生

章子怡首次独自在微博为小苹果庆生

无人倾听无人倾听
2026-08-27 01:28:32
毛远新回忆毛主席晚年:说话我也听不懂。李讷和毛远新一起长大的

毛远新回忆毛主席晚年:说话我也听不懂。李讷和毛远新一起长大的

大江
2024-10-26 06:06:33
藏得太深!上海向南,正在悄悄造一个“新中心”

藏得太深!上海向南,正在悄悄造一个“新中心”

起喜电影
2026-08-26 13:38:29
陕西祖孙二人骑电动车被撞,孙子不幸死亡爷爷仍在抢救 肇事司机称视线被旁边车辆挡住,仅投保交强险

陕西祖孙二人骑电动车被撞,孙子不幸死亡爷爷仍在抢救 肇事司机称视线被旁边车辆挡住,仅投保交强险

红星新闻
2026-08-26 19:53:25
工信部:鸿蒙手机操作系统成为世界第三大手机操作系统

工信部:鸿蒙手机操作系统成为世界第三大手机操作系统

大象新闻
2026-08-26 11:39:02
十年未安置的刘翔要与“东家”断舍离?心怀愤懑不如体面离开丨网传耐克终身形象大使每年保底200万美元

十年未安置的刘翔要与“东家”断舍离?心怀愤懑不如体面离开丨网传耐克终身形象大使每年保底200万美元

半野闲人
2026-08-27 06:17:36
上海两老人被质疑从自助餐店带出食物,一怒之下倒空背包自证清白,餐厅回应:已批评涉事店员并向老人道歉

上海两老人被质疑从自助餐店带出食物,一怒之下倒空背包自证清白,餐厅回应:已批评涉事店员并向老人道歉

扬子晚报
2026-08-26 07:19:19
中国“25万元级”纯电车王:中产收割机,单月销量超25000台

中国“25万元级”纯电车王:中产收割机,单月销量超25000台

柳先说
2026-08-24 20:50:34
宿迁市政府最新人事任免

宿迁市政府最新人事任免

扬子晚报
2026-08-25 23:24:52
俄罗斯终于露出了最致命的软肋!战死在乌克兰的,大多是布里亚特

俄罗斯终于露出了最致命的软肋!战死在乌克兰的,大多是布里亚特

果妈聊娱乐
2026-08-12 08:32:47
13亿没白交:保变被印度掏空技术扫地出门,如今新规焊死技术闸门

13亿没白交:保变被印度掏空技术扫地出门,如今新规焊死技术闸门

无情有思ss
2026-08-19 06:21:47
广东男篮引热议,媒体人透露杜锋朱芳雨下课细节,周鹏成自由球员,张文逸完成注册

广东男篮引热议,媒体人透露杜锋朱芳雨下课细节,周鹏成自由球员,张文逸完成注册

中国篮坛快讯
2026-08-27 00:00:08
乔丹NBC节目仅播1年遭停播 巴克利批其表现令NBC难堪

乔丹NBC节目仅播1年遭停播 巴克利批其表现令NBC难堪

晚风知我意21
2026-08-27 06:44:29
花生被点名! 医生提醒 : 高血压患者常吃花生,很快或迎来这些后果

花生被点名! 医生提醒 : 高血压患者常吃花生,很快或迎来这些后果

小杨说事情
2026-08-26 12:30:12
这些房子,最好打死也别卖!

这些房子,最好打死也别卖!

巢客HOME
2026-08-25 05:55:07
2026-08-27 07:12:49
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
314文章数 87关注度
往期回顾 全部

科技要闻

DeepSeek被曝前七个月收入4.75亿元

头条要闻

刘翔深夜再发文:搞笑吧 我一直没离开是你没让我走

头条要闻

刘翔深夜再发文:搞笑吧 我一直没离开是你没让我走

体育要闻

兑现五年之约,含梗量最高的世界冠军诞生

娱乐要闻

包文婧当初担心包贝尔出轨,预言成真

财经要闻

洪灏:人民币是全球最被低估的货币

汽车要闻

搭华为ADS 5/增程纯电可选 阿尔法T7预售13.78万起

态度原创

旅游
时尚
教育
艺术
本地

旅游要闻

坦桑尼亚导游:学普通话是一场奇妙体验

卡其裤+蓝衬衫,简单高级

教育要闻

小学一年级有哪些作业和考试管理要求?

艺术要闻

被艺术史雪藏的"线条魔术师"!梵高好友兼对手,画中女子一个比一个销魂

本地新闻

无印良品竟是桐乡造?这座小城藏着一个刀具帝国

无障碍浏览 进入关怀版