35B参数的多模态模型,跑在手机上,内存占用只要3GB。面壁智能发布的MiniCPM-V 4.7,把这件事变成了可以上手试的东西。
它能在真实场景里读路牌、在约束条件下做规划、解析复杂文档,还能对视觉数据做推理。这些不是演示视频里的剪辑片段,而是官方给出的能力清单。
![]()
3GB内存背后的调度逻辑
支撑这套能力的是一个叫LES的机制,全称Lookahead Expert Scheduling,直译过来是"前瞻专家调度"。MoE架构的模型由多个"专家"子网络组成,每次推理只激活其中一部分,理论上比稠密模型省算力。但省算力不等于省内存——专家权重怎么在有限的硬件里调度,才是移动端落地的卡点。
LES要解决的就是这个调度问题。官方说法是,它让35B-A3B这个MoE模型的高效推理得以在移动设备上跑起来。这里的A3B指的是激活参数量,35B是总参数量,两者之间的落差正是MoE的结构特征。
除了35B版本,还有一个1B的轻量变体,定位是在资源更紧张的硬件上提供可用的多模态理解能力。两个版本覆盖的是不同档位的设备。
开发者能自己调教模型
配套放出的还有一套叫SRFT的方法,全称Self-Replay Fine-Tuning,自我回放微调。它要解决的问题很具体:开发者想针对新任务定制模型,但又不想把模型的通用能力调坏。
这是微调里的经典两难。任务数据喂多了,模型在特定场景上变强,通用表现却可能下滑。SRFT的思路是让模型在微调过程中回放自己的输出,用这种方式把通用能力锚住。官方称开发者可以借此为新任务定制模型,同时维持通用性能。
从iOS到Android,MiniCPM-V 4.7的定位是让多模态AI在本地运行变得更实际。模型权重已经放上GitHub和Hugging Face,SRFT的技术说明也有单独的博客页面。
本地运行意味着数据不出设备,也意味着不依赖网络连接。对开发者来说,这两点的价值在隐私敏感和离线场景里会被放大。
35B参数、3GB内存、手机端运行,这三个数字放在一起,构成了这次发布最直接的看点。至于实际跑起来的速度和发热表现,得等上手的人给出答案。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.