3G内存装下35B多模态，AI终端迎来巨变前夜

经常出门的人都懂一个道理：背包的容量是有限的，但你想带的东西永远比背包大。

端侧AI正在面临同样的困境。近两年，用户对端侧智能的需求快速增长：拍照后直接修图、录完视频即时摘要、会议实时提炼纪要，这些场景都需要设备本地的多模态能力。手机厂商、芯片厂商、应用开发者纷纷加码，端侧AI从旗舰专属卖点，逐步成为手机标配。

然而硬件端的空间却愈发紧张。Counterpoint的数据显示，2026年第二季度智能手机内存价格环比涨幅已突破80%。存储芯片在手机物料成本中的占比，已经从早年的10%～15%攀升到了30%～50%，部分中低端机型甚至达到60%。

另一边，IDC预计2026年中国新一代AI手机出货量将达到1.47亿台，同比增长31.6%，渗透率首次突破53%。每卖出两台新手机，就有一台搭载端侧AI。全球范围内，生成式AI手机的渗透率将在2026年达到45%，2027年突破52%，正式成为行业标配。

需求爆发式增长，但作为背包的内存成本持续走高。想要规模化落地端侧AI，单纯堆内存、堆参数的思路已经走不通。

在这个背景下，面壁智能与OpenBMB最新发布的MiniCPM-V 4.7给出了一种极简背包客式的解法——在保有现有背包容量的前提下把收纳做到极致。作为首个可在端侧无损流畅运行的开源MoE多模态大模型，35B参数的MoE多模态大模型，只用约3G内存就能在iOS、安卓等系统上流畅运行。

而往细里看，这是一套分层、有序、精打细算的收纳哲学。

如果你出门旅行过，大概懂这个感受：

带大箱子太重，带小背包装不下，勉强塞满找东西要翻半天，拉链还随时可能崩开。

端侧AI现在面临的，就是这三种包的困境。

第一种：云端的大行李箱，能力强，但带不走。

云端大模型就像一个巨大的旅行箱，什么都装得下。GPT-4V级别的多模态能力看图、读文档、做数学题、分析视频，样样精通。但问题是它需要联网、有延迟、有隐私顾虑、有成本压力。对手机、平板、车载这些终端场景来说，很多时候你需要的是随手就能用的AI，而不是每次都要托运的大箱子。

第二种：端侧小模型就像随身腰包，轻便，但装不了多少东西。

于是行业走向另一个极端：把模型做小，塞进手机里。几百M、1B、2B的端侧模型层出不穷，确实能跑、轻便，但能力也确实有限。OCR认不准复杂表格，数学题做不对，视频理解只能看个大概。就像一个腰包，装个手机钥匙钱包还行，真要出门办事，东西根本不够用。用户的感受就是，端侧AI能用，但不好用。

第三种：强行堆料的登山包，能装，但背不动。

那能不能让端侧模型再大一点？当然可以，但代价是内存。

Counterpoint的数据显示，2026年第二季度DRAM内存已经正式超越主芯片SoC，成为旗舰手机中造价最高的单一元器件。64GB DIMM价格一年内涨了约3.5倍，涨势还没停。12GB已成AI手机及格线，16GB是旗舰标配，部分机型往24GB上探。内存越堆越大，成本越堆越高，但消费者的钱包不是无限的。靠堆内存来堆AI能力，这条路越走越贵。云端的箱子带不走，端侧的腰包不够用，堆料的登山包背不动。

端侧AI，似乎卡在了一个尴尬的中间地带。

那么，什么样的端侧AI才能满足现在的市场、技术需求？

面壁智能联合清华大学提出的“密度定律”早已给出过判断：大模型能力密度约每3.5个月翻一番，每隔约100天就能用一半参数量实现当前最优性能。这意味着高效才是端侧AI的真正护城河。

而面壁智能近期发布的MiniCPM-V 4.7又提供了一种新的观察方向。MiniCPM-V 4.7最引人注目的是它把端侧可流畅运行的多模态模型上限，推到了一个此前被认为“不属于手机”的档位：35B总参数、3B激活的MoE架构，约3G内存即可在iOS、安卓系统流畅运行。

本次发布同时推出两个版本：35B-A3B（35B总参数/3B激活）是端侧可流畅运行的最强多模态大模型，约3G内存即可在iOS、安卓等系统上流畅运行；另一个1B版本（1.3B参数）则在极小体积下把OCR、数学、视频做到同尺寸第一梯队。全系列支持256K超长上下文，模型权重、推理代码和微调代码全部开源。

我们可以从以下几个视角了解一下其收纳艺术。

第一层收纳：把大模型“分装”成小包。

资深背包客都知道一个基本原则：不要用一个大包塞所有东西，而是用多个收纳袋分装，用哪个拿哪个。MoE（混合专家模型）架构，就是把这个思路用到了大模型上。传统的稠密模型像一个巨大的旅行箱，所有参数都要同时驻留内存，每次推理都得全部动用。而MoE模型把35B总参数拆成多个“专家模块”，每次推理只激活其中一小部分。在保持大模型容量与能力的同时，降低计算量和内存带宽需求。

MiniCPM-V 4.7 35B-A3B的激活参数只有3B。这就好比你有35件装备，但出门的时候身上只带3件最常用的，其余的分装在不同的收纳袋里，需要时再取出来，总容量一点没少，但随身负担大大减轻。

这是MiniCPM-V 4.7高效路线的第一层保障：用稀疏激活换内存空间。内存占用大幅下降，模型能力却没有缩水。高效与效果在这一层同时成立。

第二层收纳：提前预判，把要用的东西先放到手边。

分装只是第一步。如果你每次需要什么都要把背包翻个底朝天，再从收纳袋里慢慢找，那效率就太低了。真正的收纳高手会预判自己下一步要用什么，提前把它从背包深处拿到最外层的口袋里。MiniCPM-V 4.7的专家预加载技术，做的就是这件事。面壁智能全球首次提出前瞻专家调度（Lookahead Expert Scheduling，LES）技术，将当前层的路由输入特征直接送入下一层路由模块，预判所需的专家并提前加载，结合经过优化的专家存储占用和布局方式，显著减少加载的等待。

LES包含专家预取、计算调度和权重存取。在MoE模型中，每一层Transformer需要先选择专家再执行计算，而专家选择又依赖上一层的输出。当专家权重保存在SSD上时，只能等路由器选出专家后才能开始读取。这段读盘时间就卡在每层计算之前，成为推理速度的关键瓶颈。

就像你要找下一件装备，得先想清楚要哪件，再伸手到背包里翻，翻到了才能用。每一步都得等。预加载的思路是，在本层专家进行GPU计算的同时，预测出下一层将要激活的专家，由独立线程并行地把它们的权重从SSD读入内存中预分配的缓冲槽位。这样，下一层的权重读取与本层尚未完成的计算就重叠了，不用干等。并且，这个预测无需训练任何额外网络，只需复用下一层的router，将本层router的输入经过下一层router计算，取分数最高的8个，再加上对于专家计算顺序的优化，让预加载命中专家先计算，同时并行着加载少数没命中的专家，进一步减少等待。最后，LES还通过精细的量化和布局优化，让权重占更少的空间、放在更连续的位置，进一步缩减了加载成本。

实测数据显示，对真实激活专家的覆盖率超过80%。在iPad Pro M4 16GB上实机部署测试，解码速度平均提升约5倍，实机绝对速度可达17~19 tokens/s，是目前端侧可流畅运行的最强多模态大模型。

就像一个经验丰富的背包客，知道爬完山下一步肯定要喝水补充能量，所以在下山的路上就把水壶和能量棒从背包底翻到了侧袋里，等真的需要时，伸手就能够到。

第三层收纳：轻量化与批量取用，快上加快。

收纳还有一个技巧：把同一场景要用的东西打包在一起，一次拿出来，不用来回翻。

对专家权重驻留SSD的推理来说，专家读取、主机往返与图调度是每生成一个token都要重新支付固定开销。DSpark则用一个轻量的草稿模型一次提出多个候选token，由目标模型一次前向并行验证，受理其中最长的、与其分布一致的前缀。固定开销只支付一次，由这些token共同承担，摊到每个token上便显著下降。

与一般的并行投机不同，MiniCPM-V 4.7配套的DSpark草稿采用半自回归结构，并行骨干一次解出整块，输出端再以一个秩为256的低秩Markov模块，按上一个草稿token对当前位置的logits施加转移偏置并逐位传递成链。这样在不增加前向次数的前提下，恢复了块内token的依赖关系，使受理率不再沿位置快速衰减。

除了批量取用，另一个技巧是给装备本身减重。MiniCPM-V 4.7保留了系列原有的x4/x16混合视觉压缩，16x压缩后 MMBench仍保持90.9、OCRBench仍保持90.4，视觉token被压到原来的十六分之一，精度几乎不掉。东西本身变轻了，背包自然更好装。

减重的同时，能力并没有缩水。配合分片图像编码技术，MiniCPM-V 4.7在长文档OCR提取、连续动态视频逻辑推演、多图上下文联合推理等端侧高频场景上延续了系列的能力积累。这些场景过去常被认为是小模型难以胜任的，而4.7在极小体积下依然把它们做到了可用水平。

以前你每次只能从背包里拿一样东西，拿一次就要开一次包、找一次、关一次包。现在你一次能拿出一整套洗漱套装，牙刷、牙膏、毛巾一并取出。在M5 16GB Mac上实测，代码调试与实现、语法纠错、科学解释、逻辑推理、数学计算等任务中，最优n_max下解码速度TPS平均提升27%、最高提升66%。速度上去了、精度没有掉，这才是端侧真正需要的快上加快。

第四层收纳：精选，知道什么该带什么不该带。

真正的收纳高手都懂一个道理：不是什么都要装进去才叫好。有时候，知道什么不带比什么都带更重要。

MiniCPM-V 4.7 1B版本仅1.3B参数，却在同尺寸模型中实现了越级性能。相对Qwen3.5-0.8B，甚至更大的LFM2.5-VL 1.6B/3B，在MMStar、MathVista、OCR、图表推理、幻觉抑制和视频理解等方面全面占优，打出了MathVista 74.3、OCRBench 86.1的成绩，视频理解更是远超同档竞品。

它就像一个经验丰富的背包客，出门前会仔细审视每一件物品，最后留下的都是真正高频、真正核心的东西。OCR、数学、视频……这些端侧多模态最常用的能力，1B版本一样不缺，而且做到了同尺寸第一梯队。但那些用得少、占空间的功能，就被果断留在了家。

四层收纳层层递进，用极小的体积把最核心的能力做到了极致。背包没有变大，装的东西却更多了。

收纳做到这个程度，放在行业里看其实已经越过了很多厂商还没跨过的那道线。

手机厂商不是没想过在端侧跑大模型。vivo、荣耀、OPPO、小米等头部手机厂商都在往端侧MoE方向押注。但截至目前，行业里能在手机上跑起来的端侧模型主流还停留在3B到7B的稠密模型档位。30B级MoE跑在手机上，多数厂商给出的时间表是两到三年之后。

MiniCPM-V 4.7把这个时间表提前了。约3G内存、17~19 tokens/s的实机速度，意味着35B总参数的多模态模型现在就能在中端机型上流畅运行。复杂文档OCR、连续视频逻辑推演、多图上下文联合推理等旗舰机才有的多模态理解能力第一次具备了向中端价位段下放的技术条件。

不过，收纳做得再好，也只是把东西装进了自己的背包。端侧AI要真正走向规模化落地，还需要另一件事：把打包的方法教给更多人，让每一台设备、每一家厂商都能照着装出自己的那一份。

好的收纳方法，如果只有自己知道，价值有限。如果分享出去，让更多人都能用，才能真正改变一个行业。

从上一代到这一代，MiniCPM-V系列的迭代本身就是这套收纳哲学不断升级的过程。MiniCPM-V 4.6以1.3B参数、6GB内存做到同尺寸最佳；V4.7则直接把可流畅运行的模型上限推到35B MoE档位，内存反而降到3GB。参数量翻了数十倍，内存需求却反而减半。

为什么这件事重要？因为3B到7B的模型代表着不同的能力边界。搭载7B模型的端侧设备能识别简单指令，但读不了复杂文档；能回答基础问题，但看不懂视频逻辑，行业称其为“能用但不好用”。

过去几年，端侧AI的“能力平权”更多停留在口号层面。旗舰机跑得动的模型，中端机跑不动；中端机跑得动的模型，能力又不够看。内存成本是横在中间的那道墙。当3G内存就能承载35B MoE，这道墙被凿开了一个口子。千元机和中端机第一次有了用上旗舰级多模态能力的可能，技术普惠不再只是一句愿景。

这对手机厂商、芯片厂商、应用开发者来说意味着新的产品空间，不必再为内存预算妥协模型能力，也不必只把最好的端侧AI留给最贵的机型。

不仅如此，MiniCPM-V 4.7还全系列开源模型权重、推理代码和微调代码。这意味着开发者和厂商不仅能用，还能基于自己的场景做二次开发和优化。

为了进一步让二次开发更加便利，MiniCPM-V 4.7 同步推出了自回放微调（Self-Replay Fine-Tuning）技术。做法很直观：在微调前，先让模型回答一批覆盖原有能力的问题，筛选出高质量回答，再把这些回答混进新任务的训练数据。模型一边学习新技能，一边复习自己原来会的东西，减少对已有能力的遗忘。

这些「复习材料」来自模型自身，更贴近它原有的回答方式。整个方法沿用标准微调流程，无需修改模型结构或损失函数，提前生成的回放数据也可以在后续实验中复用。开发者因此能以较低的接入成本扩展新能力，同时尽可能保留模型原有的通用表现。

MiniCPM-V 4.7 全套端侧多模态AI解决方案背后是面壁智能联席首席科学家姚远团队的持续投入。作为清华大学人工智能学院助理教授、博士生导师，姚远在Nature Communications、CVPR、ACL、ICML等顶会顶刊发表论文30余篇，主导构建了MiniCPM-V、MiniCPM-o等高效多模态模型。MiniCPM-V系列从最开始到近期的4.6到4.7，始终围绕“用更少资源跑更强模型”这条主线迭代，这套背包客式的收纳哲学正是团队一以贯之的效率路线在端侧多模态上的延续。

面壁智能也建立了广泛的芯片合作生态。4.7版本发布当天即适配Intel、瑞芯微、AMD、ARM、后摩智能、NVIDIA、Apple等芯片平台，此前已与高通、联发科技、华为昇腾、紫光展锐等数十家芯片厂商建立合作。

MiniCPM系列已先后落地汽车、PC、手机、智能家居等B端客户，包括联想、吉利、上汽大众、广汽、马自达、红旗等。截至2026年10月，MiniCPM系列累计下载量突破6000万次，连续多日霸榜GitHub Trending和HuggingFace趋势榜，成为全球关注度最高的多模态端侧开源基座之一。

此前，MiniCPM-V相关成果已发表于Nature Communications，证明面壁智能端侧多模态路线已获得国际顶级学术共同体认可。这条路线的行业影响力在更早之前就已经显现。

2024年，斯坦福大学一个团队发布了名为Llama3-V的模型，声称以极低成本实现了比肩GPT-4V的效果，但很快被开发者发现，其架构和代码与MiniCPM团队此前开源的MiniCPM-Llama3-V 2.5高度一致。最终，斯坦福团队成员公开道歉并撤下模型。“套壳”事件说明，中国多模态大模型团队已经逐渐摆脱跟随者的身份，开始成为被全球同行直接借鉴的技术源头。面壁智能的开源工作，已经进入了全球开源创新的“源头供给侧”。

背包客的收纳哲学本质上是在资源有限的前提下，通过有序的组织和预判，把效率最大化。MiniCPM-V 4.7做的事情也是一样。

用MoE架构把大模型分装成小包，用专家预加载提前预判要用的模块，用DSpark一次处理多个token，用混合视觉压缩让视觉信息“轻量化”……层层收纳技巧叠在一起，最终实现了3G内存跑35B MoE多模态大模型的结果。

AI正在以远超预期的速度渗透进每个人的日常，而端侧是它最能触达普通人的那一段路。过去，端侧AI这条船一直停在旗舰机的深水港里，能跑起来就算不错；现在，用户要求它跑得快、效果好、占内存小。MiniCPM-V 4.7做的就是把缆绳解开，让它能驶进每一台中端设备的水域。

当模型能在3G内存里跑出35B的能力，受益的不只是旗舰机用户，还有大量中端设备、海外市场，以及对隐私和离线能力有刚需的场景。可以说，面壁智能用一场背包客式的极简之旅，把MiniCPM-V 4.7送到这些设备身边。而这场旅行的终点是端侧多模态真正从能用走向好用的那一天。