端侧AI不是云端AI的缩小版，安谋科技要建边端侧AI算力底座｜WAIC 2026

世界人工智能大会（WAIC）2026上，超节点、万卡集群是算力领域最吸引人的焦点。更大的集群、更高的带宽、更强的供给能力，构成了大模型时代最直观的基础设施叙事。

但安谋科技在WAIC期间的AI前瞻会上把讨论拉向了另一端：当AI从云端进入手机、AI PC、智能家居、汽车、机器人、工业设备和边缘节点，算力问题不再只是“够不够大”，而是“合不合适”。

“我们认为，边端侧AI不是云端AI的缩小版，而是由功耗、实时性、软件、数据、可靠性共同定义的新计算市场。”安谋科技Arm China NPU产品线负责人、首席架构师舒浩博士在安谋科技世界人工智能大会（WAIC）2026 AI前瞻会上的这句话，比具体产品参数更值得被记住。

安谋科技在AI前瞻会上没有把CPU、NPU、VPU和AIOS拆成四个孤立产品来讲，而是给出一套端侧AI的系统答案：硬件层面做异构，软件层面建生态，最终把自己从芯片IP供应商的位置，推向边端侧AI基础设施的组织者。

如何在资源受限的情况下让端侧稳定运行AI？

端侧AI的机会，首先来自模型能力的下沉。

安谋科技CPU产品总监朱晓鸣在演讲中提到，2022年、2023年，要达到商用门槛的模型规模往往需要做到数百B；但随着算法演进，到2025年、2026年，接近1B体量的模型也有机会达到商用最低标准线。

这意味着，过去只能运行在云端服务器上的AI能力，开始有机会进入端侧芯片。

但端侧AI真正难的，并不是模型能不能变小，而是变小之后能不能在真实设备里稳定跑起来。

手机要考虑续航，机器人要考虑低延迟，工业设备要考虑稳定性和生命周期，智能家居设备还要考虑成本和常开功耗。用户希望端侧设备具备更强推理能力、更长上下文、更实时交互，背后要解决的是电池、温度、内存墙和带宽墙。

朱晓鸣把端侧AI的约束讲得很直接：“端侧AI并不是资源无限、无限子弹的AI，它是一个资源受限的AI。”

所以，端侧AI不是把云端模型搬到端侧芯片上，也不是简单在MCU旁边外挂一颗NPU，而是在极其受限的功耗、面积、成本和带宽里，把AI能力挤出来。

这也是安谋科技推出“星辰300”AIoT原型平台的背景。

星辰300由STAR CPU、Arm Helium矢量扩展和Arm Ethos NPU组成，首代平台选择STAR-MC2和Ethos-U55，目标是支持主流小模型，让传统MCU拓展出AI算力。

过去IoT强调的是连接万物，设备更多承担采集、连接和被动响应；AIoT强调的是认知万物，端侧设备开始需要一定的感知、判断和决策能力。

安谋科技要做的，是把CPU的通用控制能力、Helium的向量扩展能力和Ethos NPU的矩阵加速能力组合起来，在功耗、面积都受限的嵌入式设备里，跑出可用的AI能力。

端侧AI的竞争，不是比谁能把算力堆得更大，而是比谁能在更小的壳里，把更多AI能力跑得更稳。

Agentic时代NPU最重要的不是峰值算力？

如果星辰300回答的是AIoT设备如何长出AI能力，那么周易X3-Pro回答的是更复杂的边端侧推理问题。

过去谈NPU，行业很容易落到参数竞争：算力多少、能效多少、支持多大参数模型。

Agentic AI正在改变NPU的定义。舒浩在演讲中提到，过去一年AI行业的变化集中在四个方面：模型能力提升，推理需求从云端向边端侧扩展；推理范式从单轮对话走向Agent多轮协作；工作负载高度分化；边端侧场景不断扩展。

这些变化最后指向同一个结论：“AI算力底座的关注焦点，已经从峰值算力转向系统效率、场景适配性以及整体可部署能力。”

原因在于Agentic AI带来的推理变化，不是一次性请求变多，而是推理本身变成持续感知、上下文记忆、多模态理解和主动行动的循环。NPU也就不能只被定义为推理加速器，而要变成AI智能体的计算底座。

但边端侧场景依然绕不开然碎片化问题。

手机、PC、可穿戴设备关心电池续航、个人隐私和本地响应；摄像头、门锁、机器人、自动驾驶关心多模态传感、低延迟和功能安全；工业网关、工控机、工厂服务器关心任务确定性、可靠性和应用长生命周期；边缘节点、AI本地盒子又关心多路并发、24小时在线和云边协同。

这些设备都需要AI，但它们不会需要同一颗AI芯片。

这也是周易X3-Pro强调统一、分层、场景化架构的原因。舒浩把周易X3-Pro的设计哲学概括为：“一次适配，多芯复用；面向场景，灵活配置。”

软件层面，安谋科技希望用统一架构复用模型适配、调优和部署经验；硬件层面，则通过不同配置适配不同场景对性能、功耗、灵活性和可编程性的差异化要求。

这才是边端侧AI真正的工程难题。

云端AI可以通过标准化集群和规模效应不断摊薄成本，但端侧AI要面对的是更长的产品周期、更多样的设备形态和更复杂的应用约束。谁能降低客户从模型到芯片、从芯片到产品的适配成本，谁才有机会成为端侧AI时代的底座。

用新一代VPU解决端侧AI怎么看

AI进入真实世界后，视频的角色同样在变化，对VPU也有新的需求。

过去视频主要服务人眼。手机拍摄、社交传输、直播压缩，核心目标是让人看得清、传得快、存得下。但在机器人、自动驾驶、工业视觉等场景里，视频不只是内容，而是AI理解物理世界的数据入口。

换句话说，视频不再只是给人看，也要给机器看。

安谋科技VPU研发总监黄鑫博士在演讲中提到，随着AI应用和视频更加紧密结合，越来越多视觉感知模块需要用视频数据进行推理和训练，视频开始成为AI的“消费者”。

这会改变VPU的设计目标。过去VPU追求的是压缩效率和主观画质，AI时代，VPU还要考虑压缩后的视频能否保留对AI推理有效的信息。如果视频质量受损，影响的可能不只是人眼观感，而是AI推理精度和训练效果。

安谋科技此次首次揭秘新一代“玲珑”VPU“武当”。这款产品继承上一代CAE技术，在保持编码质量的同时，PPA较上一代提升超过40%，并支持更完整的编码规格。

更关键的是，安谋科技正在把VPU从局部优化推向端到端全局优化。

黄鑫提到，下一阶段AI VPU会从智能CAE这类局部优化，走向面向特定AI应用的端到端视频编码技术，在压缩和精度之间取得更优平衡。

他用一句话概括玲珑VPU的定位：“让人类看清世界，让AI看懂世界。”

如果说CPU和NPU解决的是端侧AI“怎么算”，VPU解决的就是端侧AI“怎么看”。

当机器人、汽车、工业设备、空间智能系统都需要通过视觉理解世界，视频压缩就不再只是多媒体问题，而会变成端侧AI基础设施的一部分。

端侧AI大规模部署的关键——AIOS联盟

硬件异构只能解决端侧AI的一半问题。另一半，是软件和生态。

端侧AI如果只停留在“芯片能跑模型”，很难真正变成产品能力。Agent、具身智能、AI眼镜、AI玩具、机器人、边缘盒子等新型设备，需要的不只是底层算力，还包括模型推理、任务编排、记忆管理、端云协同、感知交互、隐私安全和开发者工具。

这也是安谋科技牵头发起开源AIOS联盟的原因。

安谋科技市场及生态副总裁梁泉在演讲中提到，每一代新型产品的变化，不仅是计算平台变化，也包括交互范式变化。PC时代是鼠标和键盘，移动时代是多点触控，AI时代则会出现语音交互、生成式UI、具身互动和持续感知。

这意味着AIOS不是传统操作系统加一个模型接口。

AIOS需要处理模型引擎、模型推理、端云协同路由、感知交互、Agent任务编排、记忆系统和数据流。尤其是在具身智能和边缘设备中，视频、音频、文本等实时混合输入，会成为贯穿系统的核心数据流。

梁泉对AIOS的定义里，最关键的不是“OS”，而是交互。

他提到，新型AIOS是“基于感知的生成式交互和具身互动系统”。如果只是把AI作为计算基础设施放在那里，过去Linux、服务器系统已经可以承接很多能力；但新型边缘设备和具身设备要与人持续互动，交互会变成系统核心。

这一步，把安谋科技的角色从IP继续向上推了一层。

端侧AI产业链天然分散：有芯片公司，有模组厂，有设备厂，有模型公司，有开发者，也有终端品牌。单靠某一颗IP，很难让AI进入海量设备。安谋科技想借助Arm在端侧的生态位置，把硬件IP、软件栈、模型能力、开发者工具和终端产品组织到一个更开放的体系里。

开源AIOS联盟的意义也在这里，端侧AI从“硬件可用”走向“产品可用”必须补上的系统层。

端侧AI的竞争也是系统竞赛

从星辰300到周易X3-Pro，从玲珑VPU到开源AIOS联盟，安谋科技传递出的信息，核心不是有新的IP产品，而是为端侧AI构建一套不同于云端AI的基础设施。

云端AI的竞争，更像规模竞赛。谁能提供更多GPU、更强集群、更高吞吐、更低Token成本，谁就能在大模型训练和推理爆发中占据主桌。

端侧AI的竞争，则更像系统竞赛。它要在功耗、成本、实时性、隐私、设备形态和生命周期之间找平衡；要让不同尺寸、不同场景、不同产品周期的设备，都能以可控成本获得AI能力；还要让开发者和终端厂商不必为每一颗芯片、每一个设备、每一种模型重复适配。

这正是“端侧AI不是云端AI的缩小版”背后的产业含义。

当AI还停留在云端，算力基础设施的核心问题是如何支撑更大模型和更多Token；当AI进入真实世界，问题会变成如何让每一台设备都具备可用、可靠、可部署的智能能力。

安谋科技构建的，正是这套边端侧算力底座。

如果说过去Arm生态的最大价值，是让移动互联网时代的计算能力进入每一台终端；那么AI时代，安谋科技要证明的是，Arm生态仍然有机会把AI能力带进每一个真实设备。

端侧AI的下半场，不会只属于单颗芯片，它属于能把芯片、模型、OS、开发者和终端场景串起来的公司。雷峰网