网易首页 > 网易号 > 正文 申请入驻

谷歌把26B模型压成4B用,本地AI终于不用看云端脸色

0
分享至


凌晨两点,谷歌把Gemma 4扔了出来,号称"史上最聪明的开放模型"。

这话听着像例行公关,但看完参数表你会发现,他们这次玩的是"缩骨功"——四种规格里,最小的E2B和E4B专门给手机、树莓派这类"弱鸡"设备准备的,推理时只激活20亿和40亿参数,延迟压到接近零。翻译成人话:你的旧手机终于能离线跑正经AI了,不用每次问个问题都先给云端磕一个。

真正有意思的是26B那个MoE模型。谷歌说它在推理任务里只激活38亿参数,却能保持大模型的知识储备。这就像一个号称26人的专家团队,实际干活时只叫醒4个人,但活儿干得比真·4人团队漂亮。代价是显存,26B参数得全塞进内存候着,所以别想拿它当4B用。


31B版本目前在开源榜单排第三。谷歌还补了一刀:某些测试里,它比参数大20倍的对手还能打。不过网友很快翻出Qwen3.5-27B的跑分,说其实略胜一筹——开源社区的打脸速度永远比发布会快。

这次四个型号全带"思考"模式、全支持函数调用、全给140多种语言。最被开发者惦记的是原生system role支持——以前调Gemma得像哄小孩,现在终于能正经写系统提示词了。

一位网友的评论被顶得很高:"我们一直在喊,要那种思考不用传回云端的模型。他们终于听进去了,而且给的比预期多。"


Apache 2.0许可证,商用随便改。谷歌的算盘很清楚:你们不是担心数据主权吗?不是嫌云端延迟高吗?拿走,全在本地跑。分析师说这叫"主导本地AI产业",说白了就是把开发者圈进自己的硬件生态——从Jetson Nano到Blackwell,从高通到联发科,全给你适配好了。

不过官方给的内存数字只算静态权重,实际跑起来,框架开销、KV Cache、上下文窗口都是隐形刺客。想微调的话,显存需求还得再往上蹿一截。

模型已上架Hugging Face、Kaggle、Ollama。Android开发者可以去AICore里摸原型了。

那位网友的后半句其实更值得记住:"现在他们终于听进去了"——开源社区喊了三年的本地优先,谷歌这次把回应写进了产品定义里。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
5万美军紧急叫停行动!内塔尼亚胡走投无路,猛烈抨击中俄朝

5万美军紧急叫停行动!内塔尼亚胡走投无路,猛烈抨击中俄朝

人生录
2026-04-06 00:17:18
值40万元!甘肃农民为报仇套住一只杀了吃,5年后转手卖出皮和骨

值40万元!甘肃农民为报仇套住一只杀了吃,5年后转手卖出皮和骨

米果说识
2026-04-05 16:43:44
救援完成,美以大概率明晚开始全面轰炸伊朗、最快8日上午登岛

救援完成,美以大概率明晚开始全面轰炸伊朗、最快8日上午登岛

邵旭峰域
2026-04-06 12:45:36
伊朗搜捕人员距飞行员藏身地不到3公里!美军营救代价惨烈,损失飞机价值超4亿美元

伊朗搜捕人员距飞行员藏身地不到3公里!美军营救代价惨烈,损失飞机价值超4亿美元

红星新闻
2026-04-05 18:49:42
普通家庭给孩子最好的托举是什么?张雪峰:做到这7点少走十年弯路

普通家庭给孩子最好的托举是什么?张雪峰:做到这7点少走十年弯路

户外阿毽
2026-04-06 06:09:27
美军极限营救被困士兵:“国家爱我,我才爱国家”

美军极限营救被困士兵:“国家爱我,我才爱国家”

黑噪音
2026-04-06 10:18:53
太委屈!女子清明回娘家偷偷给母亲3000被公开,兄弟姐妹轮番指责

太委屈!女子清明回娘家偷偷给母亲3000被公开,兄弟姐妹轮番指责

火山詩话
2026-04-06 07:51:26
中国不记隔夜仇!巴拿马接到通知,美国终于下场,巴政府自食恶果

中国不记隔夜仇!巴拿马接到通知,美国终于下场,巴政府自食恶果

影孖看世界
2026-04-06 14:09:23
这些地区最高温降到个位数!西北大风横扫辽宁~

这些地区最高温降到个位数!西北大风横扫辽宁~

辽宁卫视
2026-04-06 06:34:17
拯救大兵——到伊朗腹地建个基地

拯救大兵——到伊朗腹地建个基地

熊飞白
2026-04-05 21:30:55
美军营救行动耍了伊朗?中情局发假消息迷惑对方

美军营救行动耍了伊朗?中情局发假消息迷惑对方

看看新闻Knews
2026-04-06 00:19:51
黎姿:嫁给大15岁的残疾富豪,一家5口3人残疾,风光背后有心酸

黎姿:嫁给大15岁的残疾富豪,一家5口3人残疾,风光背后有心酸

小熊侃史
2026-04-05 13:53:18
盾构机运到孟买,印度给中国交尾款,首付即全款套路行不通了

盾构机运到孟买,印度给中国交尾款,首付即全款套路行不通了

王新喜
2026-04-06 11:37:03
伊朗的“穷病”:比导弹库存更致命的,是那张空荡荡的国库账单

伊朗的“穷病”:比导弹库存更致命的,是那张空荡荡的国库账单

民间胡扯老哥
2026-04-01 02:10:27
太可怕了!郭麒麟被聚会朋友偷拍发上网,网友:谁还敢交朋友?

太可怕了!郭麒麟被聚会朋友偷拍发上网,网友:谁还敢交朋友?

子芫伴你成长
2026-04-05 22:43:24
《清明上班图》吓傻全网!网友:太阴间了

《清明上班图》吓傻全网!网友:太阴间了

4A广告文案
2026-04-06 10:29:36
无声的裁员潮已至?这5个行业成重灾区,很多人还没察觉!

无声的裁员潮已至?这5个行业成重灾区,很多人还没察觉!

时尚的弄潮
2026-04-06 13:06:50
心梗去世的人越来越多?医生再次强调:宁可打打牌,也别做这6事

心梗去世的人越来越多?医生再次强调:宁可打打牌,也别做这6事

健康之光
2026-03-26 16:00:06
李讷带全家去祭拜毛主席,儿媳王伟漂亮懂事,王景清搀扶着李讷

李讷带全家去祭拜毛主席,儿媳王伟漂亮懂事,王景清搀扶着李讷

大江
2026-03-14 08:17:36
张萌穿成这样是故意的吧?太会撩了,谁顶得住

张萌穿成这样是故意的吧?太会撩了,谁顶得住

小椰的奶奶
2026-04-06 11:24:15
2026-04-06 15:27:00
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
820文章数 7关注度
往期回顾 全部

科技要闻

前同事被蒸馏成Token,AI能否偷走职场经验

头条要闻

特朗普希望7日前与伊朗达成协议 专家:实现可能性较低

头条要闻

特朗普希望7日前与伊朗达成协议 专家:实现可能性较低

体育要闻

球员系列赛大满贯!赵心童10-3世界第一 加冕赛季第4冠

娱乐要闻

乔任梁离世10年 父母曝舞台光鲜的背后

财经要闻

118吨!这家央行,大幅抛售黄金!

汽车要闻

家用SUV没驾驶乐趣?极氪8X第一个不同意

态度原创

家居
艺术
亲子
数码
公开课

家居要闻

温馨多元 爱的具象化

艺术要闻

20位中国当代名家的25幅油画

亲子要闻

一定要让孩子刻在脑子里

数码要闻

Mac跑AI模型更方便了,消息称苹果已为英伟达、AMD外置显卡开绿灯

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版