手掌、桌面与车轮，端侧AI打响“入口之战”

当行业还在为云端大模型的参数规模、训练算力争论不休时，一场更具决定性的战争，已经在离用户最近的终端设备上悄然打响。

从车企密集发布搭载端侧大模型的智驾方案，到手机厂商将百亿参数模型塞进旗舰芯片，再到AI PC、智能穿戴设备纷纷打出“本地原生智能”的旗号，所有信号都指向同一个结论：AI的竞争主线，正在从“云端算力竞赛”转向“端侧入口争夺”。

互联网的发展史，本质就是一部入口更迭史。谁掌握了用户接入数字世界的第一入口，谁就掌握了流量、数据与商业的主导权。PC时代是浏览器与搜索引擎，移动互联网时代是超级App与应用商店。

而进入AI时代，智能不再局限于屏幕与点击，而是渗透到驾驶、感知、交互等每一个物理场景，入口的定义正在被彻底改写。这一次，战争的胜负手，不在遥远的数据中心，而在每一台触手可及的终端里。

入口轮回，端侧成了AI时代必争之地

每一次技术范式的转移，都会伴随一次入口的重构。

90年代，互联网刚走入大众视野，门户网站是绝对的流量中心，用户通过雅虎、新浪的首页接触整个网络；搜索引擎崛起后，谷歌、百度成为信息分发的核心入口，人们通过关键词获取服务；移动互联网浪潮袭来，超级App取代了网站，微信、支付宝成为人们接入数字生活的主要通道，流量分发权从浏览器转移到了应用生态之中。

每一代入口的更替，背后都遵循同一个底层逻辑：谁离用户更近、响应更快、体验更无缝，谁就能成为用户的第一选择。

AI时代到来之初，行业普遍认为云端大模型会成为新一代入口。用户通过自然语言向云端大模型发出指令，由大模型完成意图理解、任务拆解与服务调度。但随着场景落地深入，云端模式的天然短板愈发凸显，越来越多人意识到，纯云端AI撑不起物理世界的实时智能。

第一个无法回避的问题是延迟。云端推理依赖网络传输，从数据上传到结果返回，即使在5G网络下也存在几十到上百毫秒的时延，网络波动时延迟更高。对于自动驾驶、工业质检、实时AR这类对时延有极致要求的场景，几百毫秒的延迟就可能意味着安全事故。自动驾驶汽车在高速行驶时，障碍物识别与路径规划需要毫秒级响应，一旦网络抖动导致云端指令延迟，后果不堪设想。

第二个核心痛点是隐私与数据安全。云端模式下，用户的语音、图像、位置、行为数据需要持续上传至服务器处理。智能汽车的车载摄像头会拍摄道路环境与驾乘人员画面，手机的智能助手会读取用户的通讯录、日程与相册，这些数据都包含高度敏感的个人信息。频繁的数据传输不仅增加了泄露风险，也让企业面临日趋严格的全球数据合规监管。汽车数据安全管理要求重要数据不出境、敏感数据就地处理，纯云端架构天然与这一趋势相悖。

第三个现实约束是成本。大模型推理的算力成本高昂，当终端设备规模达到数亿级，每一次交互都调用云端算力，会产生难以承受的带宽与算力开支。对于车企而言，如果百万级车辆的智驾感知都依赖云端处理，仅流量与服务器成本就会吞噬大量利润。

端侧AI的出现，正是对这些痛点的系统性解答。

所谓端侧AI，就是将轻量化的大模型直接部署在终端设备本地，所有推理计算在设备内部完成，原始数据无需上传云端。

它带来了三个云端无法替代的核心价值：

其一，极致低时延。数据不用往返云端，推理过程本地完成，响应速度可以压缩到毫秒级，完全满足自动驾驶、实时交互等场景的刚性要求。

其二，隐私原生。原始感知数据、个人行为数据全部在本地处理，只在必要时上传脱敏后的增量信息，从源头上减少了数据泄露的风险，也更符合数据最小化的合规原则。

其三，离线可用。没有网络信号的地下车库、隧道、偏远路段，智能功能依然可以正常运行，不会因为断网而失效。

这三个特性，决定了端侧AI绝非云端的补充方案，而是AI走向物理世界、融入真实场景的必经之路。也正因为如此，它才会成为新一代入口战争的核心战场——当智能变得无处不在、无时不在，离用户最近的终端，自然就成了承接用户意图、分发智能服务的第一入口。

三大赛道抢滩，战火从手掌烧到车轮

端侧AI的战争，已经在智能汽车、消费电子、泛IoT三大赛道同时打响。其中，智能汽车因为场景最复杂、价值最高、对端侧能力需求最刚性，成为了头号“试炼场”。

汽车正在从交通工具，演变为移动的智能空间。而端侧大模型，正是支撑这一转变的核心技术底座。

在智驾领域，端侧AI的价值已经形成行业共识。过去的辅助驾驶系统，依赖规则化算法与云端辅助，面对复杂城市场景、异形障碍物、极端天气时常常力不从心。而端侧部署的多模态大模型，可以在本地完成环境感知、目标识别、行为预测、路径规划的全链路闭环，真正实现“数据不出车，决策不等待”。

当前行业的主流技术趋势，是采用“快慢双思考”架构。轻量化的端到端模型负责毫秒级的紧急制动、车道保持等基础控制，确保行车安全；更大规模的端侧大模型负责复杂路口、无保护左转、施工路段等长尾场景的语义理解与决策推理。同时，车载世界模型开始走向落地，车辆可以在本地推演未来几秒的路况变化，提前做出决策，彻底摆脱对云端算力的实时依赖。

2026年6月，理想汽车发布了马赫Mind-Edge。在语言智能体系内，马赫Mind-Edge与云端模型马赫Mind-Pro协同工作，马赫Mind-Pro负责通用推理与复杂任务调度，马赫Mind-Edge作为端侧模型，主要负责实时人车交互、自主控车等本地化任务。

蘑菇车联7B端侧模型，通过MoE稀疏激活等优化架构，将推理延迟控制在百毫秒左右，覆盖道路拓扑、交通规则、车辆行为等专业知识，同时避免冗余计算。当道路突发事故时，系统可在数秒内完成超视距感知、受影响范围计算、最优绕行路径规划。

比智驾更具入口想象力的是舱驾融合带来的整车智能。随着中央计算平台取代分布式ECU，单颗高算力SoC可以同时承载智驾决策与座舱交互。端侧大模型成为了整车的智能中枢，对外感知路况、规划路线，对内理解驾乘人员的语音、手势甚至情绪，调度车内所有服务。

这意味着，汽车的入口价值不再局限于导航与娱乐，而是成为了用户出行、生活、办公的移动入口。而这一切的前提，是智能能力必须本地化——没人愿意在隧道里因为断网而无法使用语音助手，更没人愿意自己的车内对话与行程数据被持续上传。

数据安全与合规，更是端侧方案的核心加分项。行车影像、驾乘音视频、车辆轨迹都属于敏感数据，端侧本地处理从源头减少了数据外传，大幅降低了数据泄露与合规风险。这也是越来越多车企将“数据不出车”作为核心卖点的根本原因。

如果说汽车是端侧AI的高价值战场，那么手机与AI PC就是规模最大的大众战场。

智能手机已经是毫无疑问的移动互联网入口，而端侧大模型正在让这个入口从“应用分发”升级为“意图分发”。过去用户要打开不同App完成不同任务，未来只需要通过本地大模型发出指令，由模型直接调度系统能力与应用服务。

端侧模型的小型化正逐渐成为行业共识。苹果的Apple Intelligence同样采用3B参数的设计，可以在设备上完成文本摘要、信息提取与跨应用操作等任务。vivo副总裁、vivo AI全球研究院院长周围给出了一个新的发展方向——放弃对“通用人工智能”的追逐，转而推出体量更轻的3B端侧多模态推理大模型，该模型仅占用手机2GB内存、功耗约750毫安，推理能力却能和7B甚至10B模型媲美。

AI PC的崛起，更是将端侧入口之争延伸到了生产力场景。搭载独立NPU的PC芯片，可以在本地运行大模型，实现离线文档总结、表格分析、代码生成、会议纪要等功能。对于商务用户而言，本地处理意味着商业机密数据无需上传云端，安全性大幅提升。当AI能力成为PC的标配，操作系统与芯片厂商就掌握了生产力场景的智能入口权。

在手机与汽车之外，智能手表、智能家居、安防摄像头、工业边缘设备等海量IoT终端，正在构成端侧AI的长尾战场。

这些设备的共同特点是算力有限、网络环境不稳定、对隐私与功耗要求极高。端侧轻量化小模型可以在极低功耗下完成人脸检测、异常识别、语音唤醒等基础智能功能，无需依赖云端。虽然单台设备的价值不高，但海量设备聚合起来，就构成了覆盖家庭、工业、城市的庞大智能入口网络。

端侧AI不是“把模型塞进终端”那么简单

赛道火热之下，行业也逐渐形成共识：端侧AI的门槛，远比想象中更高。它不是简单地把云端模型压缩一下放到芯片里，而是一场涉及算法、软件、硬件、工程、安全的全体系攻坚战。

端侧AI首先要面对的，是算力、功耗、成本三者构成的“不可能三角”。

终端设备的物理约束极其严苛。车载芯片要在-40℃到85℃的宽温环境下稳定工作，功耗受到整车电源与散热系统的严格限制；手机芯片要兼顾续航与手感，散热空间极其有限；IoT设备更是依赖电池供电，功耗预算只有毫瓦级。

在这样的约束下，不可能无限制堆高算力。而大模型，尤其是Transformer架构，对算力与内存带宽的需求极其巨大。自注意力机制带来的海量访存操作，常常让芯片空有算力却喂不饱数据，形成“存储墙”瓶颈。

行业的解决方案是模型轻量化：INT4/FP8低比特量化、结构化剪枝、知识蒸馏、稀疏化、MoE混合专家……一系列技术手段被用来压缩模型体积，让大模型能在有限算力下跑起来。但压缩是有代价的，过度量化与剪枝会导致模型精度下降，在长尾场景中出现识别错误、决策偏差。

对于自动驾驶而言，这一点尤为致命。常规路况下模型表现良好，一遇到异形障碍物、极端天气、罕见交通场景，轻量化模型的识别准确率就可能明显下滑。如何在有限的算力与功耗预算内，保住关键场景的精度，是所有端侧AI团队都要面对的核心考题。

如果说模型轻量化是基础题，那么软硬协同优化就是拉开差距的拔高题。

很多团队会遇到一个尴尬的问题：理论算力很高的芯片，实际跑大模型时有效算力却很低。原因很简单：大模型算子复杂、访存密集，如果只是用通用推理框架跑，根本发挥不出芯片的真实性能。

想要把端侧大模型的效率拉满，必须从底层做起。针对芯片架构定制开发算子、优化内存调度、打通推理框架与底层驱动、做算子融合与图优化。这需要算法团队、编译器团队、芯片团队、驱动团队深度配合，从模型结构设计阶段就考虑硬件适配，而不是模型训完了再往芯片上搬。

这对企业提出了全新的能力要求。过去算法团队只管训模型，芯片团队只管做硬件，两者相对独立。但在端侧AI时代，两者必须紧密耦合。车企不能只做算法集成，必须深入到芯片算子与调度层面；芯片厂不能只卖硬件，必须提供完善的软件栈与模型适配工具；大模型公司不能只输出云端API，必须具备端侧部署与量化优化的工程能力。

背后更深层的挑战是人才与组织。端侧AI需要同时懂大模型算法、编译器、芯片架构、车规工程的复合型人才，这类人才在行业内极度稀缺。组织上，传统的部门墙会严重阻碍软硬协同，企业必须建立跨部门的联合迭代机制，才能缩短调优周期。

端侧AI落地，尤其在自动驾驶领域，安全与合规是绕不过去的两道大关。

首先是功能安全。汽车行业有严苛的ISO 26262功能安全标准，最高等级ASIL-D要求系统失效概率极低。但大模型本质上是概率性输出，存在黑盒特性，决策过程难以完全解释，也很难穷举所有失效边界。这就导致端侧大模型很难直接通过最高等级的车规安全认证。

行业目前的应对思路是“大模型+安全冗余”。大模型负责复杂决策，同时保留传统规则化算法作为安全兜底，一旦大模型输出异常，立即由安全系统接管。但如何界定两者的权责边界、如何验证大模型在所有极端场景下的安全性，至今没有成熟的行业标准，仍在摸索阶段。

其次是数据安全。很多人认为数据本地处理就绝对安全，这其实是一种误解。端侧设备本身也存在风险：车载存储设备可能被物理拆解盗取，终端系统可能被黑客破解，本地保存的敏感数据依然有泄露风险。

因此，端侧AI不是安全的终点，而是新安全体系的起点。它需要配套本地数据加密、安全启动、访问权限管控、敏感数据自动脱敏等一系列机制，形成完整的本地安全防护体系。对于车企而言，这意味着在数据安全上的投入不是减少了，而是从云端防护延伸到了终端防护，体系更加复杂。

端侧AI还有一个容易被忽视的难题——硬件生态的极度碎片化。

云端是标准化的，主流的服务器芯片就那么几种，推理框架相对统一。但端侧的芯片生态极其分散，手机有高通、联发科、苹果、华为等不同平台，汽车有英伟达、高通、地平线、黑芝麻等多个厂商，每个厂商的架构、指令集、软件栈都不一样。

同一个大模型，要适配不同的芯片平台，就要做不同的量化、算子优化与调度适配。每多一个平台，就多一份开发与维护成本。对于大模型厂商而言，适配五花八门的终端硬件，是一项极其繁重的工程工作；对于终端厂商而言，绑定单一芯片平台又会面临供应链风险。

生态碎片化，正在拖慢端侧AI的规模化落地速度。行业也在呼唤更统一的标准与接口，但短期内，碎片化依然是端侧AI必须面对的现实。

端云协同是必然，入口之争本质是生态权

讨论端侧AI，一个常见的误区是认为它会取代云端。事实上，两者从来不是替代关系，而是分工协同关系。

未来的最优架构一定是“端云一体”：端侧负责实时性强、隐私敏感度高、高频重复的任务，比如行车决策、语音唤醒、本地交互；云端负责复杂推理、模型训练、仿真迭代、海量数据处理，比如大模型的基础训练、整车OTA升级、罕见场景的云端辅助决策。

简单来说，云端负责学习与进化，端侧负责执行与响应，两者共同构成完整的智能闭环。云端把训练好的模型压缩下发到终端，终端把脱敏后的增量数据回传到云端，形成持续迭代的正向循环。

在这样的架构下，入口之争的本质，就不再是端与云谁取代谁，而是谁来主导这个端云协同的生态。

目前赛道上主要有三类玩家，各有各的优势与软肋。

第一类是硬件终端厂商，比如车企、手机厂商、PC厂商。它们的优势是离用户最近，掌握设备入口与场景数据，有动力通过端侧AI提升产品体验与差异化；劣势是大模型算法能力参差不齐，底层芯片技术积累有限。

第二类是芯片厂商。它们的优势是掌握底层算力底座，最懂硬件架构，能做最深层次的软硬协同优化；劣势是缺乏直接触达用户的场景，也没有上层应用生态。

第三类是大模型与互联网公司。它们的优势是算法能力强，有服务生态与用户运营经验；劣势是缺乏硬件载体与终端渠道，在软硬协同上处于相对弱势。

没有任何一类玩家能通吃全场。端侧AI的终局，一定是产业链的深度协作，芯片厂商提供算力底座与软件栈，大模型厂商提供算法与轻量化能力，终端厂商负责场景落地与体验整合。

但协作不代表没有竞争。在协作之上，大家争夺的是生态主导权——谁来定义端侧AI的技术标准，谁来掌控用户交互的入口，谁来分配生态的商业价值。

每一次入口的更替，都伴随着一轮产业格局的重新洗牌。PC时代成就了微软与英特尔，移动时代成就了苹果与谷歌，而AI时代的入口战争，注定会诞生新的巨头，也会让曾经的霸主面临挑战。

这场入口之战，刚刚拉开序幕。技术路线还在迭代，标准格局尚未定型，玩家阵营仍在变化。但可以确定的是，最终胜出的既不是参数最大的模型，也不是算力最强的芯片，而是能打通软硬闭环、真正落地场景体验的玩家。

当AI的算力不断向终端下沉，向用户靠近，一个全新的智能时代，才真正开始。