网易首页 > 网易号 > 正文 申请入驻

26B参数模型跑出88.3%成绩,开源小模型把大厂脸打肿了

0
分享至

六个月前你说一个26B参数的模型能在数学竞赛里逼近自家31B大哥,我会觉得你喝多了。现在我把Gemma 4、Qwen 3.5、Mistral Small、LLaMA 3.3、Phi-4、Nemotron Nano和DeepSeek R1蒸馏版全跑了一遍,笑不出来了。

这些"小个子"最狠的一招叫稀疏激活——每次只叫醒3.8B参数干活,其余继续睡。翻译成人话:请客吃饭只付三个人的钱,菜却够十个人吃。传统认知里参数即正义,现在这套算法被开源社区拆了。

我测完AIME 2026那道题集时反复确认了三遍数据。不是模型变聪明了,是工程师终于学会怎么让模型"偷懒"——而且偷得理直气壮。大厂还在堆卡烧电,这边已经用笔记本显卡跑出商用级效果。

有个细节很有意思:这些模型里好几个是谷歌、阿里、Meta主动放出来的。换句话说,造神的人开始拆自己的庙了。一位参与Gemma项目的工程师私下吐槽,「我们现在内部开会,小模型组的PPT比大模型组厚两倍」。

用户端的变化更直接。我认识的两个独立开发者上周把Claude订阅停了,理由是"Phi-4在本地跑推理,成本降到原来的4%"。不是他们不爱用好东西,是钱包比情怀诚实。

OpenAI和Anthropic至今没对这轮开源潮表态。但市场已经投票——Hugging Face上38B以下模型的周下载量,三个月翻了一倍。小模型不是未来的备胎,是正在发生的正餐。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
今年,很多公司,已经发不下来工资了

今年,很多公司,已经发不下来工资了

细说职场
2026-04-25 18:12:10
台面还剩5颗红球,赵心童被超2分就主动认输,丁俊晖7-9保留悬念!

台面还剩5颗红球,赵心童被超2分就主动认输,丁俊晖7-9保留悬念!

林子说事
2026-04-26 00:54:35
10国签订反华协议!中方24小时后出手,未经允许不得接受美资

10国签订反华协议!中方24小时后出手,未经允许不得接受美资

清欢百味
2026-04-26 04:09:51
为什么你的电量焦虑出国就消失?

为什么你的电量焦虑出国就消失?

晚风也遗憾
2026-04-24 09:04:51
天津4-2 赢球不可怕 可怕的是于根伟赛后一席话 两三个人都拼到抽筋

天津4-2 赢球不可怕 可怕的是于根伟赛后一席话 两三个人都拼到抽筋

刘哥谈体育
2026-04-26 03:12:41
伊朗对中国的误会

伊朗对中国的误会

求实处
2026-04-24 23:57:32
同是影视巨头,为何万达有人接盘,华谊却无人相救?真相太扎心

同是影视巨头,为何万达有人接盘,华谊却无人相救?真相太扎心

八斗小先生
2026-04-25 11:47:21
把孙杨请来参加《妻子的浪漫旅行2026》的人,可真是一个天才!

把孙杨请来参加《妻子的浪漫旅行2026》的人,可真是一个天才!

八卦南风
2026-04-25 10:26:26
别不当回事!4月30日前赶紧办完,5月1日全面严查,谁躲都没用

别不当回事!4月30日前赶紧办完,5月1日全面严查,谁躲都没用

复转这些年
2026-04-24 21:20:33
房子遭人强拆,因反抗坐3年牢!出狱后扬言:不赢官司就杀人

房子遭人强拆,因反抗坐3年牢!出狱后扬言:不赢官司就杀人

就一点
2026-04-24 17:46:47
15分6板命中绝命三分!女篮第一后卫杀疯了:宫鲁鸣这次看走眼了

15分6板命中绝命三分!女篮第一后卫杀疯了:宫鲁鸣这次看走眼了

篮球快餐车
2026-04-26 05:30:25
别再尬演白月光!顶着大刀双眼皮一脸疲态,这能让男人念念不忘?

别再尬演白月光!顶着大刀双眼皮一脸疲态,这能让男人念念不忘?

揽星河的笔记
2026-04-25 15:08:35
京东给年轻人造了一辆轿跑,售价低至12.7万元

京东给年轻人造了一辆轿跑,售价低至12.7万元

财天COVER
2026-04-24 10:44:40
哇噻,这是我见过有酒窝的女生里,最美的一位

哇噻,这是我见过有酒窝的女生里,最美的一位

喜欢历史的阿繁
2026-04-26 02:05:28
浙江中小学假期引焦虑;教师因霸凌事件去世 | 4月26日教育日报

浙江中小学假期引焦虑;教师因霸凌事件去世 | 4月26日教育日报

教育的视界
2026-04-26 01:09:57
任正非:偌大中国,有几个在踏实读书?博士论文真知灼见有多少?

任正非:偌大中国,有几个在踏实读书?博士论文真知灼见有多少?

新浪财经
2026-04-25 08:09:43
四川省第一大镇,没有争议

四川省第一大镇,没有争议

石辰搞笑日常
2026-04-24 13:27:13
世界冠军1球不进!80后名将12-9夺赛点,罗伯逊3-1逆转韦克林!

世界冠军1球不进!80后名将12-9夺赛点,罗伯逊3-1逆转韦克林!

刘姚尧的文字城堡
2026-04-25 19:23:27
马苏深夜哽咽“一个人很久了”!孔令辉隔空回应:是我没顾上她

马苏深夜哽咽“一个人很久了”!孔令辉隔空回应:是我没顾上她

时间巡查
2026-04-25 16:06:47
伊朗用血泪给中国换来了教训:最大的敌人,并不是美国和以色列

伊朗用血泪给中国换来了教训:最大的敌人,并不是美国和以色列

墨印斋
2026-04-23 15:42:00
2026-04-26 07:08:49
Ping值焦虑
Ping值焦虑
有态度网友ytd
1670文章数 25关注度
往期回顾 全部

科技要闻

DeepSeek V4发布!黄仁勋预言的"灾难"降临

头条要闻

媒体:美军在中东罕见高密度集结 伊朗开始调整战术

头条要闻

媒体:美军在中东罕见高密度集结 伊朗开始调整战术

体育要闻

那一刻开始,两支球队的命运悄然改变了

娱乐要闻

《我们的爸爸2》第一季完美爸爸翻车了

财经要闻

90%订单消失,中东旺季没了

汽车要闻

2026款乐道L90亮相北京车展 乐道L80正式官宣

态度原创

教育
数码
旅游
健康
公开课

教育要闻

跟孩子说话要小心:你强调什么,他就变成什么

数码要闻

联发科亮相2026北京车展:主动式智能体座舱解决方案

旅游要闻

美猴王VS水蜜桃,连云港、无锡文旅“双向奔赴”

干细胞如何让烧烫伤皮肤"再生"?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版