北京
来源：长三角资本局
10月13日，面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7，包含35B-A3B与1B两个版本。其中，35B-A3B采用混合专家（MoE）架构，总参数规模达350亿，每次推理仅激活30亿参数。
据公司介绍，该模型是首个能够在端侧无损流畅运行的开源MoE模型，仅需约3GB内存即可运行，在iPad Pro实测环境下，解码速度达到每秒15个token以上。
此次技术突破的核心，是面壁智能自主研发的前瞻专家调度技术（LES）。
传统MoE模型虽然能够通过按需激活专家模块降低计算量，但在手机等内存有限的设备上，频繁加载专家容易造成推理卡顿。面壁智能通过LES技术提前预测后续计算所需的专家模块，在当前计算任务执行期间完成加载，使数据调度与模型计算同步推进，减少等待时间。据介绍，该技术目前为业内独家开源方案。
在生态适配方面，MiniCPM-V 4.7发布当天即支持瑞芯微、NVIDIA、Intel及Apple等主流芯片平台，兼容iOS、安卓和鸿蒙操作系统，并提供开源端侧适配代码及主流推理框架支持。同步推出的1B版本则聚焦轻量化部署，进一步降低端侧AI应用的硬件门槛。
近年来，随着多模态模型能力持续提升，如何在有限算力和内存条件下实现高效推理，成为端侧AI规模化应用的关键。面壁智能此次通过模型架构与推理调度优化，为大参数规模模型进入移动终端提供了新的技术路径。
截至目前，面壁智能介绍，公司联合OpenBMB开源社区发布的MiniCPM系列模型全球累计下载量已突破6000万次，覆盖文本、视觉、语音等多种模态。此次新模型的发布，也将进一步拓展其在手机、平板及智能终端领域的应用空间。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
