网易首页 > 网易号 > 正文 申请入驻

Qwen3.8-27B 适合干啥

0
分享至

Artificial Analysis 昨天公布了 Qwen3.8-27B 的智能指数,它作为一个只有 270亿 参数的小尺寸模型现在已经可以和 GPT-5.6Luna、 DeepSeek-V4-Flash坐一桌了,这俩都是2000亿以上参数的大模型。


Qwen3.8-27B发布前,业内对它的期望值就比较高,发布后我也一直在测试,整体感觉不错,但是看专业测评它能到这个程度也感觉挺意外的。

就去 Artificial Analysis 上详细的捋了下它的各项 Benchmark (基准测试)数据,想看看它到底吃啥了这么猛。看它是不是偏科严重,在某些测试项上特别突出,从而拉高了整体分数。另外,我也会根据我的使用体验,结合 基准测试的数据说下它适合在哪些场景里用。

Artificial Analysis评估模型指数时综合了 9项基准测试 的数据,其中 AA-Omniscience (全知)项 又 分出 了 两个 小项 : Accuracy (准确率)、 Non-Hallucination Rate (非幻觉率) , 所以一共是10项基准测试加权综合后算出的指数。

Agent能力

头两项是测试模型 Agent能力 的,在权重里占大头,一共 34%

GDPval-AA v2 :这个 是让模型在 44个真实业务场景 里跑业务执行,注意他的名字带 GDP ,说明是在测试模型能不能真的干活。 权重20%

³-Banking: 是测试 银行复杂结算场景 下,模型能否准确执行,对数据准确性要求高。 权重14%



Qwen3.8-27B在这两项里的测试表现都不错,特别是银行场景下拿到了第二名,我感觉这和千问背靠阿里,有很强的支付背景有关系。

编码能力

这个是开发者们比较关注的,一共有两项,在权重里占 24%

Terminal-Bench v2.1 :测试的是模型在 终端 里执行的稳定性,命令是否对其等,针对的是 开发运维自动化、CICD流水线 这种场景,搞运维的对这个不陌生。 权重 16%

SciCode: 名称里带 sci ,说明测试的是科研代码场景,我原来以为这个简单,后来了解下下科研场景下的代码还是很难的,模型没法背题拿高分。 权重 8%


代码和终端执行也是我测试的重点,Qwen3.8-27B在编码和排查项目问题上能力不俗。终端执行也比较稳定做开发运维自动化是不错的选择,我用它反复测试了 提交代码到github + 登陆线上服务器 + 线上发布 这个DevOps自动化流程,没翻过车。

科学推理

这个分裂是考察模型在 前沿科学 方面的表现,占指数权重的24%,一共有三项基准测试。

HLE: 人类最后一道习题,都是跨学科的顶级难题,测模型能力天花板。 权重12%

GPQA Diamond: 研究生级科学难题(物化生),因为题目公开,又是选择题,所以目前 分数已接近饱和了 ,作用是 筛掉能力不足的模型。 权重 6%

CritPt: 前沿物理学难题,是为了 补充HLE覆盖不到的物理课题。 权重 6%


Qwen3.8-27B 在这个分类上的表现明显不如主流的大模型,这也是小尺寸模型的特点,在前沿科学上表现乏力。

通用能力

这一项是考察模型的知识丰富度、准确性、幻觉率、及长上下文能力。在当下的Agent时代,它的重要行明显被降低了,在权重里只占18%,一共有三项。

AA-Omniscience Accuracy: 42个主题的 开放式问答,测试模型的知识丰富度和回答问题的准确性, 越敢回答分数可能越高。权重8%

Non-Hallucination Rate :模型不出现幻觉的概率 ,测试模型不知道的时候是否会放弃回答。和上面的 Accuracy 基准项用的是一套题,测试的时候也是用的同一轮回答,所以越敢回答的模型出现幻觉的概率越高,这一项得分可能越低。 权重6%

AA-LCR: 测试模型 长上下文 的信息提取与推理整合能力。 权重4%


Qwen3.8-27B 在这一项上的表现明显不行,这也是小尺寸模型的特性,在通用能力上不如大参数的模型,参数量太小泛化不出通用能力。 不出现幻觉的概率高是因为模型的知识面窄,遇到不会的不回答。不过我看在上下文下检索的能力上表现还算不俗。

最后

Qwen3.8-27B能在Artificial Analysis的榜单上有这么不俗的表现,是着重加强了占权重比较高的 Agent 和 编码 获得高分的,光这两项就占了指数的58%,你平时拿它做本地Agent和编码可能不错。但是在通用能力,如知识丰富度,和科研能力上还差不少。

我最近在研究小尺寸的模型在本地能干点啥有意思的事情,感兴趣的可以在评论区一起讨论学习。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
男子患癌在车间自缢身亡,家属:在公司工作24年,入职后一直未缴社保致治疗费无法报销,索赔66万,法院:本人承担主责,公司赔偿20余万元

男子患癌在车间自缢身亡,家属:在公司工作24年,入职后一直未缴社保致治疗费无法报销,索赔66万,法院:本人承担主责,公司赔偿20余万元

台州交通广播
2026-08-22 11:40:58
藏匿无罪证据致张志超坐15年冤狱的检察官升副检察长

藏匿无罪证据致张志超坐15年冤狱的检察官升副检察长

追月数星
2026-08-21 21:51:01
许家印坑惨的10位大佬,马云仅排第9,第一名亏360亿,谁要是能找到他的财产线索,悬赏2535万

许家印坑惨的10位大佬,马云仅排第9,第一名亏360亿,谁要是能找到他的财产线索,悬赏2535万

麓谷隐士
2026-08-22 00:05:05
青海祁连回应“教练以牵马同骑为由猥亵游客”事件:责令经营主体停业整顿,全县开展旅游市场规范整治

青海祁连回应“教练以牵马同骑为由猥亵游客”事件:责令经营主体停业整顿,全县开展旅游市场规范整治

大风新闻
2026-08-22 10:36:15
太可怜了!许家印前妻丁玉梅被限高每天只能花 6000!怎么活啊!

太可怜了!许家印前妻丁玉梅被限高每天只能花 6000!怎么活啊!

正经说个事儿
2026-08-22 07:00:56
A股:人民日报重磅发文,做好心理准备,下周一将迎来变盘节点?

A股:人民日报重磅发文,做好心理准备,下周一将迎来变盘节点?

云鹏叙事
2026-08-22 00:00:09
美国272斤黑熊钻进未锁车厢,被困数日疯狂抓挠撕扯,最终死亡

美国272斤黑熊钻进未锁车厢,被困数日疯狂抓挠撕扯,最终死亡

译言
2026-08-21 17:04:28
宋丹丹被曝做财产公证,有12个小目标,每月给儿子30万,孙子50万

宋丹丹被曝做财产公证,有12个小目标,每月给儿子30万,孙子50万

林轻吟
2026-08-22 07:15:04
十二亿买来的教训:马云为什么能在恒大崩盘前全身而退?

十二亿买来的教训:马云为什么能在恒大崩盘前全身而退?

放开他让wo来
2026-08-21 23:04:57
堪称最离谱的枕边翻车现场,清华学霸杨奇函被女友趁熟睡时蚂蚁搬家式转走百万

堪称最离谱的枕边翻车现场,清华学霸杨奇函被女友趁熟睡时蚂蚁搬家式转走百万

东方不败然多多
2026-08-22 04:34:50
恒大二号人物夏海钧,15年捞18.55亿逃美,全球禁令下他能撑多久

恒大二号人物夏海钧,15年捞18.55亿逃美,全球禁令下他能撑多久

晓岇就是我
2026-08-21 16:27:34
4万吨烂货臭翻天!菲律宾急眼,叫嚣中国必须接盘,泰越联手补刀

4万吨烂货臭翻天!菲律宾急眼,叫嚣中国必须接盘,泰越联手补刀

观察者小海风
2026-08-21 18:18:44
“她是桃花眼,前途不敢估量”,女孩考上中山大学,面相火了

“她是桃花眼,前途不敢估量”,女孩考上中山大学,面相火了

世界圈
2026-08-21 09:05:40
吃相难看!许家印被判无期仅1天,难堪一幕出现,王健林也被牵连

吃相难看!许家印被判无期仅1天,难堪一幕出现,王健林也被牵连

牛锅巴小钒
2026-08-22 03:39:11
三孩均非亲生案正式开庭!妻子清纯样貌曝光,丈夫披露八年婚姻全部细节

三孩均非亲生案正式开庭!妻子清纯样貌曝光,丈夫披露八年婚姻全部细节

老猫观点
2026-08-22 08:32:59
特朗普:若输掉中期选举将被弹劾,霍尔木兹海峡现在是美国的领土,它就是美国的领土

特朗普:若输掉中期选举将被弹劾,霍尔木兹海峡现在是美国的领土,它就是美国的领土

大风新闻
2026-08-22 09:01:03
或成史上最大IPO!AI巨头即将提交上市申请

或成史上最大IPO!AI巨头即将提交上市申请

21世纪经济报道
2026-08-22 10:03:04
许家印坑惨的10位大佬,马云仅排第9,第一名亏360亿遭悬赏

许家印坑惨的10位大佬,马云仅排第9,第一名亏360亿遭悬赏

天天热点见闻
2026-08-21 10:52:11
马思纯:我这辈子最正确的决定,就是38岁那年结束了那段消耗了5年的感情

马思纯:我这辈子最正确的决定,就是38岁那年结束了那段消耗了5年的感情

飘飘然的娱乐汇
2026-08-21 22:15:04
社评:中国不会陪美国在伊朗问题上“胡闹”

社评:中国不会陪美国在伊朗问题上“胡闹”

环球网资讯
2026-08-22 00:15:10
2026-08-22 14:43:00
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
823文章数 9318关注度
往期回顾 全部

科技要闻

苹果裁员200人:Vision Pro砍游戏团队

头条要闻

女主播被控诈骗2500万 榜一大哥:赔2000万再陪我睡1年

头条要闻

女主播被控诈骗2500万 榜一大哥:赔2000万再陪我睡1年

体育要闻

枪手赚翻!4000万新援揭幕战8分钟策动2球

娱乐要闻

赵丽颖冯绍峰,打了内娱离婚夫妻的脸

财经要闻

蔡昉解读经济:扩大消费需求的政策思考

汽车要闻

全栈自研控本不降质 22.68万解锁魏牌旗舰实力

态度原创

教育
游戏
房产
公开课
军事航空

教育要闻

“妈妈毁掉女儿月薪9k的工作”,多少父母,正在亲手毁掉孩子的人生

PS送修有去无回?索尼售后变"空气":只剩一个空盒子

房产要闻

两大热盘即将入市!三亚又一批安居房狠货要炸场了!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

披露林肯号航母内幕的美国军报多人被炒

无障碍浏览 进入关怀版