网易首页 > 网易号 > 正文 申请入驻

35B大模型塞进手机,只要3GB内存

0
分享至

35B参数的多模态模型,跑在手机上,内存占用只要3GB。面壁智能发布的MiniCPM-V 4.7,把这件事变成了可以上手试的东西。

它能在真实场景里读路牌、在约束条件下做规划、解析复杂文档,还能对视觉数据做推理。这些不是演示视频里的剪辑片段,而是官方给出的能力清单。


3GB内存背后的调度逻辑

支撑这套能力的是一个叫LES的机制,全称Lookahead Expert Scheduling,直译过来是"前瞻专家调度"。MoE架构的模型由多个"专家"子网络组成,每次推理只激活其中一部分,理论上比稠密模型省算力。但省算力不等于省内存——专家权重怎么在有限的硬件里调度,才是移动端落地的卡点。

LES要解决的就是这个调度问题。官方说法是,它让35B-A3B这个MoE模型的高效推理得以在移动设备上跑起来。这里的A3B指的是激活参数量,35B是总参数量,两者之间的落差正是MoE的结构特征。

除了35B版本,还有一个1B的轻量变体,定位是在资源更紧张的硬件上提供可用的多模态理解能力。两个版本覆盖的是不同档位的设备。

开发者能自己调教模型

配套放出的还有一套叫SRFT的方法,全称Self-Replay Fine-Tuning,自我回放微调。它要解决的问题很具体:开发者想针对新任务定制模型,但又不想把模型的通用能力调坏。

这是微调里的经典两难。任务数据喂多了,模型在特定场景上变强,通用表现却可能下滑。SRFT的思路是让模型在微调过程中回放自己的输出,用这种方式把通用能力锚住。官方称开发者可以借此为新任务定制模型,同时维持通用性能。

从iOS到Android,MiniCPM-V 4.7的定位是让多模态AI在本地运行变得更实际。模型权重已经放上GitHub和Hugging Face,SRFT的技术说明也有单独的博客页面。

本地运行意味着数据不出设备,也意味着不依赖网络连接。对开发者来说,这两点的价值在隐私敏感和离线场景里会被放大。

35B参数、3GB内存、手机端运行,这三个数字放在一起,构成了这次发布最直接的看点。至于实际跑起来的速度和发热表现,得等上手的人给出答案。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
10万入场费的“换妻”盛宴:记者冒死暗访,组织者3年狂赚2亿

10万入场费的“换妻”盛宴:记者冒死暗访,组织者3年狂赚2亿

说点事
2026-07-16 11:29:11
王曦雨1-2不敌低排名选手,止步WTA1000武汉站第二轮

王曦雨1-2不敌低排名选手,止步WTA1000武汉站第二轮

侧身凌空斩
2026-10-13 23:47:10
国家出手!让余承东“闭嘴”、雷军“低调”、李想“沉默”……车企大佬“吹牛式营销”上了紧箍咒

国家出手!让余承东“闭嘴”、雷军“低调”、李想“沉默”……车企大佬“吹牛式营销”上了紧箍咒

大厂财经社
2026-10-11 11:02:59
关税提高后外贸公司老总从16楼跳下,发现其家中16G视频:罪有应得

关税提高后外贸公司老总从16楼跳下,发现其家中16G视频:罪有应得

罪案洞察者
2025-05-09 09:42:00
章子怡在法国哭到捂嘴,这套“不修边幅”的造型反倒打了场漂亮仗

章子怡在法国哭到捂嘴,这套“不修边幅”的造型反倒打了场漂亮仗

情感大头说说
2026-10-13 19:26:31
惊人预测:这一轮房价,一定是洪水滔天,人口、收入都得靠边站?

惊人预测:这一轮房价,一定是洪水滔天,人口、收入都得靠边站?

混沌录
2026-10-13 09:50:40
605189,最高预增超1500%!今夜,业绩利好来了→

605189,最高预增超1500%!今夜,业绩利好来了→

证券时报
2026-10-13 19:38:06
73岁迟重瑞身体状况惹担忧!与继子赵勇现身保定,走路费劲,且左手的问题大

73岁迟重瑞身体状况惹担忧!与继子赵勇现身保定,走路费劲,且左手的问题大

裕丰娱间说
2026-10-11 09:56:12
美国总统特朗普公开表示:我下月出访亚洲期间可能会晤金正恩,金正恩是我的朋友,我几乎是全世界唯一一个他喜欢的人

美国总统特朗普公开表示:我下月出访亚洲期间可能会晤金正恩,金正恩是我的朋友,我几乎是全世界唯一一个他喜欢的人

吉刻新闻
2026-10-13 12:49:53
DeepSeek将完成1000亿元融资

DeepSeek将完成1000亿元融资

财经杂志
2026-10-13 09:27:02
手机涨价潮可怕后果:小米崩了,一个能打的都没有

手机涨价潮可怕后果:小米崩了,一个能打的都没有

鸣金网
2026-10-12 15:23:55
上海7位最有名、口碑不错的医生,排名不分先后,建议收藏

上海7位最有名、口碑不错的医生,排名不分先后,建议收藏

华庭讲美食
2026-10-13 19:44:47
养老金大局已定? 不出意外的话,从2027开始,养老金或迎来3个变化

养老金大局已定? 不出意外的话,从2027开始,养老金或迎来3个变化

找回密码
2026-10-13 10:13:27
别拿“民族”说事

别拿“民族”说事

维舟
2026-10-12 21:48:49
公务员大势已定?不出意外的话,未来5年,体制内或将出现4大变化

公务员大势已定?不出意外的话,未来5年,体制内或将出现4大变化

音乐时光的娱乐
2026-10-12 07:48:28
65岁港星景区打工,曾是香港第一美男,如今酒糟鼻尽显老态

65岁港星景区打工,曾是香港第一美男,如今酒糟鼻尽显老态

可乐谈情感
2026-10-14 00:59:39
影坛大老虎被查!曾主导投资《长津湖》,狂揽57亿元,如今落马

影坛大老虎被查!曾主导投资《长津湖》,狂揽57亿元,如今落马

翰飞观事
2026-10-11 11:38:08
王诗龄现身北京三里屯,膀大腰圆全身名牌超富态,疯狂购物引热议

王诗龄现身北京三里屯,膀大腰圆全身名牌超富态,疯狂购物引热议

娱圈办事处
2026-10-13 18:05:14
谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

寻墨阁
2026-03-06 13:57:52
外媒:60岁的罗马里奥与26岁女冲浪运动员一起享受夜生活

外媒:60岁的罗马里奥与26岁女冲浪运动员一起享受夜生活

懂球帝
2026-10-13 08:54:26
2026-10-14 03:00:49
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
166文章数 96关注度
往期回顾 全部

数码要闻

苹果智能家居战略升级:HomeView登场 强化生态系统“黏性”

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

体育要闻

走调的歌声里全是感情 最好的郑钦文尚未登场

娱乐要闻

谭松韵亲自解答兰香结局遗憾

财经要闻

"黑医师"产业链调查:不学医竟能"拿证"

科技要闻

扎克伯格宣布追上OpenAI!Meta新模型亮相

汽车要闻

豪华智能全拉满 比亚迪大汉不止旗舰级舒适

态度原创

时尚
本地
教育
数码
游戏

钟楚曦: 两处人间

本地新闻

这个十一,林都伊春彻底出圈!

教育要闻

成都这所公办K12学校开启招聘!优秀在职教师和本硕博毕业生赶紧关注

数码要闻

苹果发布智能家居设备HomeView:搭载Siri AI与7英寸显示屏

曝《GTA6》PC版明年初就出!多名业内人士透露

无障碍浏览 进入关怀版