大模型的“摩尔定律”来了：能力每100天翻倍，AI正在从云端“搬”进你的手机

你手里的手机、你开的车、你戴的手表——它们正在悄悄变聪明。

不是那种需要联网才能用的"云端聪明"，而是哪怕断网、哪怕在地下室，也能自己思考、自己决策的"本地聪明"。

2026年，全球生成式AI手机渗透率预计突破45%，AI PC出货占比将达到55%。中国端侧AI整体市场规模有望达到8661亿元，边缘AI芯片市场规模将突破210亿元，同比增长38%。

2026年7月，面壁智能发布了《端侧智能2026：规模化落地元年报告》。这份43页的报告系统梳理了端侧智能从产业演进、技术框架到落地实践的全景图，揭示了一个核心判断：大模型正在从"云端租用的服务"变成"内建于设备的属性"，端侧智能已从概念验证迈入规模化落地元年。

一、四重约束，把AI“推”向终端

产业向端侧的集体转向，并非技术偏好的自然迁移，而是云端集中式推理模式在大规模应用中遭遇四重结构性瓶颈后的必然演进。

成本约束是最直接的驱动力。截至2026年3月，我国日均Token调用量已突破140万亿，较2025年末增长超过40%。字节跳动旗下豆包大模型日均调用量突破180万亿，同比增长超10倍。调用量的爆发式增长意味着，即便单位Token价格持续下降，企业整体推理账单仍可能因使用规模而显著上升。

Uber在2026年4月前已用完全年AI预算；Broadcom调查显示，62%的IT领导者对AI基础设施成本表示高度担忧，56%的企业正在或计划在私有云上运行生产级AI推理。

时延约束同样不可绕开。云端推理的体验瓶颈不只来自模型生成速度，也来自“终端采集→网络传输→云端排队→模型推理→结果回传→终端执行”的完整链路。语音助手、实时翻译、智能座舱、工业控制和自动驾驶等场景，对延迟的要求远高于普通文本问答。端侧推理可将响应从“等待云端返回”转变为“本地即时处理”，显著改善交互心流。

隐私约束在监管趋严的背景下日益突出。《个人信息保护法》《数据安全法》要求数据最小必要、目的限定、知情同意和安全保护。人脸图像、车内影像、健康数据、企业文档如全量上传云端，不仅增加泄露风险，也大幅提升合规成本。端侧处理让敏感数据“不出端”，使隐私保护从“事后合规”转向“架构内生”。

稳定性约束则是最后的兜底要求。地下车库、隧道、电梯、矿山、偏远地区——在这些弱网、断网场景下，纯云端AI即使模型再强也无法响应。AI能力一旦嵌入关键流程，就必须具备本地兜底能力。

这四重约束共同指向一个结论：云端集中式部署，无法独自承载AI走向物理世界的全部重量。

二、密度定律：端侧智能的“科学底气”

端侧智能之所以能在2026年从愿景走向现实，背后有一条被反复验证的规律，作为“科学底气”支撑整个产业转向。

2024年底，清华大学孙茂松、刘知远团队与开源社区OpenBMB提出“能力密度”概念，用以衡量大模型单位参数内蕴含的智能水平。相关成果《Densing Law of LLMs》于2025年作为封面文章发表于《自然》子刊《自然·机器智能》。

密度定律的结论极具穿透力：大模型的能力密度随时间呈指数增长，约每3.3至3.5个月翻一番——这意味着每隔约一百天，只需一半参数量的模型即可达到当前最优性能。

将它与半导体领域的摩尔定律并置，会得到一个更具冲击力的图景：芯片在同等价格下的算力约每两年翻一倍，而模型的能力密度约每一百天翻一倍。前者决定了终端“能装下多大的模型”，后者决定了“同样大小的模型能有多聪明”。

两条曲线的交汇，正把“高性能大模型装进终端”从设想变成工程现实。

作为密度定律的主要提出者与实践者，面壁智能的MiniCPM系列已成为全球最受欢迎的中国开源模型之一。截至2026年7月，全球下载量突破3800万次、GitHub星标超过14万；其2026年5月发布的MiniCPM5-1B，相比3个月前发布的Qwen3.5-2B，不仅效果更优，参数量还减少了一半。

端侧模型的竞争力，从来不取决于参数有多大，而取决于能力密度有多高。

三、FlagOS：对抗碎片化的“系统底座”

密度定律解决了“模型够不够聪明”的问题。但端侧智能规模化落地的真正“拦路虎”，是部署侧的碎片化。

端侧的算力载体天然多元——GPU、NPU、DSA等计算架构，ARM、RISC-V等处理器生态并存。每一款芯片都有自己的SDK、编译器与算子库；每一家厂商在接入主流AI框架时又往往各自“魔改”。结果是：一个模型每迁移到一款新芯片，就要重做一遍适配，形成“N种模型×M种芯片×K种终端”的组合爆炸。

这正是北京智源人工智能研究院牵头打造FlagOS的出发点。

FlagOS定位十分清晰：对标CUDA技术生态，构建一套面向多种AI芯片的统一、开源系统软件栈。2026年3月发布的FlagOS 2.0，已覆盖18家厂商、32款AI芯片，成为全球支持芯片种类最多的AI系统软件栈。

其技术架构可以概括为“核心库+工具链+生态使能”三层：

• FlagGems统一算子库：采用“1+6”布局，算子总数达497个，是全球最大的多芯片算子库，已进入PyTorch基金会生态合作；
• FlagTree统一编译器：支持12家厂商20种芯片，全面替换Qwen的CUDA依赖后，端到端推理性能可从原生Triton的35%提升到逼近CUDA最优的95%
• FlagCX统一通信库：支持9家芯片厂商与5大网络协议，推动的《人工智能统一通信库接口规范》实现国家标准与ITU国际标准“双立项”
• KernelGen算子自动生成工具：将原本需两年的200多个算子开发压缩到约3小时，自动生成的Triton算子中约有一半性能优于CUDA原生算子。

FlagOS的战略价值可以用一句话概括：如果说“能力密度”解决了端侧模型“够不够聪明”的问题，FlagOS解决的则是“能不能跑遍所有终端”的问题——前者是引擎，后者是把引擎装进千差万别车身的通用底盘。

四、产业全景：谁在布局，谁在领跑？

全球端侧智能产业正从早期功能探索进入规模化部署阶段，竞争的核心正在由“单一模型能力”转向“模型—芯片—操作系统—终端—生态”的系统竞争。

美国仍主导底层芯片、操作系统和开发者生态；中国的优势则集中在场景深度、工程效率、终端规模和产业链协同能力上。依托全球领先的智能手机、汽车、消费电子制造体系，中国在中文场景、智能汽车、消费电子、工业边缘等需深度适配的领域，正率先形成规模化优势。

中国已形成从底层到应用相对完整的端侧智能产业链，自下而上分为六层：基础模型层（面壁MiniCPM、通义千问、DeepSeek等）、推理框架与操作系统层、芯片与模组层（高通、联发科、华为海思、地平线等）、终端设备层（手机、PC、汽车、机器人）、行业应用层、开源与开发者生态层。

端侧基座模型由于处在产业链交汇处，正在成为连接芯片、框架与场景的关键枢纽。端侧模型对算子结构、内存访问、低比特精度的需求会反向影响芯片设计方向；被高频适配的推理框架容易沉淀为事实标准；面向特定场景深度优化的模型则逐步成为下游集成商的能力基座。

目前产业协同已形成四类典型模式：

模型厂商与终端厂商联合优化，如面壁MiniCPM搭载于长安马自达EZ-60、吉利银河M9等车型量产；模型厂商与芯片厂商联合适配，如面壁与瑞芯微围绕车载和边缘设备开展深度合作；开源社区与统一软件栈驱动生态共建，FlagOS社区成员已达80余家，累计触达全球开发者约5.6万人；行业场景牵引端到端解决方案落地，汽车、消费电子、工业质检、AIoT等领域正在形成可复制商业闭环。

两类角色正在并行发展：垂直整合型厂商（如苹果、华为）通过软硬一体化实现闭环体验；中立开放型模型厂商（如面壁智能、阿里、DeepSeek）则跨芯片平台适配，在政企、汽车、工业等强调数据主权的场景中建立独特信任度。

五、落地：从座舱到手机，从数字世界到物理世界

汽车座舱是当前较早形成端侧大模型量产闭环的典型终端。车内对实时性、离线可用与隐私的要求极高，弱网、隧道与地下车库又天然排斥纯云端方案，与端侧智能的四项核心价值高度吻合。面壁智能SuperMate方案在事故处理场景中，能够实时识别事故状态、主动安抚驾驶员情绪、引导现场处理流程，并调用保险理赔能力实现全链路闭环。

手机与PC则验证了端侧智能的“广度”。vivo X Fold6搭载30亿参数端侧蓝心大模型，支持会议转写、文档处理等AI能力实现本地运行；iQOO 15 Ultra本地处理速度达220 tokens/s，足以支撑实时翻译、影像处理等高频场景。消费电子的高端化竞争，正在从“比摄像头、比屏幕”转向“比本地AI体验”。

机器人则是端侧智能从数字世界走向物理世界的下一站。FlagOS- Robo已支持RoboBrain、GROOT、PIO等主流具身模型的训练与推理，其端云协同方案将平均通信延迟压缩至3毫秒以内，并已支持模型在真机上的端侧部署。

六、商业模式的迁移：从“卖API”到“卖体验”

与端侧智能加速落地相对应的，是商业模式的根本变化。

云端大模型主要依赖API调用、订阅服务和算力计费——按Token消耗收钱。端侧智能则推动商业模式的迁移：价值捕获的重心，正从“云端API调用量”转向“围绕终端AI体验与服务持续变现”。

2026年，各大厂商正在积极尝试新商业模式：

• 小米正式推出MiMo Token分级订阅套餐，以39元至659元/月的四档定价，打通端侧大模型与云端服务，同步公测MiClaw智能体，实现手机、IoT设备、SU7车载AI的全场景协同；
• 华为小艺Claw采用AI点数付费机制，体验包49元、标准包199元；
• 三星确认Galaxy AI的13项基础功能永久免费，长文本处理等进阶功能则采用订阅收费。

越靠近用户的环节，越能沉淀用户关系、行为数据与场景定义权。“最后一公里”的价值捕获能力，正在成为AI产业链中最具战略性的壁垒。

七、四条演进趋势与五重挑战

报告总结了端侧智能生态正在沿着的四条主线加速演进：

竞争重心从“模型竞争”走向“系统竞争”。模型能否“装进终端”已不是唯一难题，真正决定体验差异的是模型、推理框架、芯片架构、操作系统和终端应用的整体协同效率。

产品形态从“单点应用”走向“平台化生态”。端侧智能正从语音助手、拍照增强等孤立功能，演进为可复用、可组合、可扩展的智能平台——AI正逐步成为终端操作系统、设备能力和第三方服务之间的新型调度层。

技术路径从“封闭适配”走向“开放标准与开源协作”。统一推理框架、算子库、编译器和运行时优化正在显著改变模型落地效率，开放标准与开源协作正在把“各自为战”的端侧适配转化为“共建共享”的产业生态。

交互形态从“被动助手”走向“主动智能体”。终端将从“被动应答”走向“持续感知→状态理解→意图预判→任务规划→工具调用→执行反馈”的主动智能体，人机交互从“用户寻找功能”转向“系统理解意图”。

与此同时，五重现实挑战横亘在前：模型能力与资源约束的根本矛盾、芯片与系统的生态碎片化、评测标准与工程规范的缺失、端侧智能体的安全与可控问题、商业模式与规模化应用的验证周期。

结语

端侧智能的故事，其实是一条清晰的因果链：

密度定律让高性能模型装得进终端 → 全栈协同让它在严苛约束下跑得动 → 系统竞争重塑了产业格局 → 真实场景的规模化落地验证了价值。

四重约束把AI“推”向终端，密度定律让AI“装”得进终端，FlagOS让AI“跑”得遍所有终端——三位一体，共同定义了大模型产业从集中式智能走向泛在智能的技术版图。

中国在终端品类、场景深度、产业链完整度与开源协作上的独特禀赋，恰好覆盖了这三条主线。这既是端侧智能走向物理世界的技术必然，也是中国在AI下半场争取生态主导权的战略机遇。

智能正在从云端“下沉”到每一台终端。而终端，正在从“应用入口”变成“智能本身”。

报告节选