网易首页 > 网易号 > 正文 申请入驻

安谋科技:端侧AI不是云端AI的缩小版,要建边端侧算力底座

0
分享至

世界人工智能大会(WAIC)2026上,超节点、万卡集群是算力领域最吸引人的焦点。更大的集群、更高的带宽、更强的供给能力,构成了大模型时代最直观的基础设施叙事。

但安谋科技在WAIC期间的AI前瞻会上把讨论拉向了另一端:当AI从云端进入手机、AI PC、智能家居、汽车、机器人、工业设备和边缘节点,算力问题不再只是“够不够大”,而是“合不合适”。


“我们认为,边端侧AI不是云端AI的缩小版,而是由功耗、实时性、软件、数据、可靠性共同定义的新计算市场。”安谋科技Arm China NPU产品线负责人、首席架构师舒浩博士的这句话,比具体产品参数更值得被记住。

安谋科技在AI前瞻会上没有把CPU、NPU、VPU和AIOS拆成四个孤立产品来讲,而是给出一套端侧AI的系统答案:硬件层面做异构,软件层面建生态,最终把自己从芯片IP供应商的位置,推向边端侧AI基础设施的组织者。

如何在资源受限的情况下让端侧稳定运行AI?

端侧AI的机会,首先来自模型能力的下沉。安谋科技CPU产品总监朱晓鸣在演讲中提到,2022年、2023年,要达到商用门槛的模型规模往往需要做到数百B;但随着算法演进,到2025年、2026年,接近1B体量的模型也有机会达到商用最低标准线。这意味着,过去只能运行在云端服务器上的AI能力,开始有机会进入端侧芯片。

但端侧AI真正难的,并不是模型能不能变小,而是变小之后能不能在真实设备里稳定跑起来。手机要考虑续航,机器人要考虑低延迟,工业设备要考虑稳定性和生命周期,智能家居设备还要考虑成本和常开功耗。用户希望端侧设备具备更强推理能力、更长上下文、更实时交互,背后要解决的是电池、温度、内存墙和带宽墙。

朱晓鸣把端侧AI的约束讲得很直接:“端侧AI并不是资源无限、无限子弹的AI,它是一个资源受限的AI。”所以,端侧AI不是把云端模型搬到端侧芯片上,也不是简单在MCU旁边外挂一颗NPU,而是在极其受限的功耗、面积、成本和带宽里,把AI能力挤出来。

这也是安谋科技推出“星辰300”AIoT原型平台的背景。星辰300由STAR CPU、Arm Helium矢量扩展和Arm Ethos NPU组成,首代平台选择STAR-MC2和Ethos-U55,目标是支持主流小模型,让传统MCU拓展出AI算力。过去IoT强调的是连接万物,设备更多承担采集、连接和被动响应;AIoT强调的是认知万物,端侧设备开始需要一定的感知、判断和决策能力。安谋科技要做的,是把CPU的通用控制能力、Helium的向量扩展能力和Ethos NPU的矩阵加速能力组合起来,在功耗、面积都受限的嵌入式设备里,跑出可用的AI能力。端侧AI的竞争,不是比谁能把算力堆得更大,而是比谁能在更小的壳里,把更多AI能力跑得更稳。

Agentic时代NPU最重要的不是峰值算力?

如果星辰300回答的是AIoT设备如何长出AI能力,那么周易X3-Pro回答的是更复杂的边端侧推理问题。过去谈NPU,行业很容易落到参数竞争:算力多少、能效多少、支持多大参数模型。

Agentic AI正在改变NPU的定义。舒浩在演讲中提到,过去一年AI行业的变化集中在四个方面:模型能力提升,推理需求从云端向边端侧扩展;推理范式从单轮对话走向Agent多轮协作;工作负载高度分化;边端侧场景不断扩展。这些变化最后指向同一个结论:“AI算力底座的关注焦点,已经从峰值算力转向系统效率、场景适配性以及整体可部署能力。”

原因在于Agentic AI带来的推理变化,不是一次性请求变多,而是推理本身变成持续感知、上下文记忆、多模态理解和主动行动的循环。NPU也就不能只被定义为推理加速器,而要变成AI智能体的计算底座。

但边端侧场景依然绕不开碎片化问题。手机、PC、可穿戴设备关心电池续航、个人隐私和本地响应;摄像头、门锁、机器人、自动驾驶关心多模态传感、低延迟和功能安全;工业网关、工控机、工厂服务器关心任务确定性、可靠性和应用长生命周期;边缘节点、AI本地盒子又关心多路并发、24小时在线和云边协同。这些设备都需要AI,但它们不会需要同一颗AI芯片。

这也是周易X3-Pro强调统一、分层、场景化架构的原因。舒浩把周易X3-Pro的设计哲学概括为:“一次适配,多芯复用;面向场景,灵活配置。”软件层面,安谋科技希望用统一架构复用模型适配、调优和部署经验;硬件层面,则通过不同配置适配不同场景对性能、功耗、灵活性和可编程性的差异化要求。这才是边端侧AI真正的工程难题。云端AI可以通过标准化集群和规模效应不断摊薄成本,但端侧AI要面对的是更长的产品周期、更多样的设备形态和更复杂的应用约束。谁能降低客户从模型到芯片、从芯片到产品的适配成本,谁才有机会成为端侧AI时代的底座。

用新一代VPU解决端侧AI怎么看

AI进入真实世界后,视频的角色同样在变化,对VPU也有新的需求。过去视频主要服务人眼。手机拍摄、社交传输、直播压缩,核心目标是让人看得清、传得快、存得下。但在机器人、自动驾驶、工业视觉等场景里,视频不只是内容,而是AI理解物理世界的数据入口。换句话说,视频不再只是给人看,也要给机器看。

安谋科技VPU研发总监黄鑫博士在演讲中提到,随着AI应用和视频更加紧密结合,越来越多视觉感知模块需要用视频数据进行推理和训练,视频开始成为AI的“消费者”。这会改变VPU的设计目标。过去VPU追求的是压缩效率和主观画质,AI时代,VPU还要考虑压缩后的视频能否保留对AI推理有效的信息。如果视频质量受损,影响的可能不只是人眼观感,而是AI推理精度和训练效果。

安谋科技此次首次揭秘新一代“玲珑”VPU“武当”。这款产品继承上一代CAE技术,在保持编码质量的同时,PPA较上一代提升超过40%,并支持更完整的编码规格。更关键的是,安谋科技正在把VPU从局部优化推向端到端全局优化。黄鑫提到,下一阶段AI VPU会从智能CAE这类局部优化,走向面向特定AI应用的端到端视频编码技术,在压缩和精度之间取得更优平衡。他用一句话概括玲珑VPU的定位:“让人类看清世界,让AI看懂世界。”

如果说CPU和NPU解决的是端侧AI“怎么算”,VPU解决的就是端侧AI“怎么看”。当机器人、汽车、工业设备、空间智能系统都需要通过视觉理解世界,视频压缩就不再只是多媒体问题,而会变成端侧AI基础设施的一部分。

端侧AI大规模部署的关键——AIOS联盟

硬件异构只能解决端侧AI的一半问题。另一半,是软件和生态。端侧AI如果只停留在“芯片能跑模型”,很难真正变成产品能力。Agent、具身智能、AI眼镜、AI玩具、机器人、边缘盒子等新型设备,需要的不只是底层算力,还包括模型推理、任务编排、记忆管理、端云协同、感知交互、隐私安全和开发者工具。这也是安谋科技牵头发起开源AIOS联盟的原因。安谋科技市场及生态副总裁梁泉在演讲中提到,每一代新型产品的变化,不仅是计算平台变化,

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国男足,最新世界排名

中国男足,最新世界排名

新京报
2026-07-21 16:58:14
韩媒:1/3的韩国少女在发生性接触时会不做避孕措施

韩媒:1/3的韩国少女在发生性接触时会不做避孕措施

随波荡漾的漂流瓶
2026-07-21 18:31:01
巴拿马上了一课:强行接管中企港口不到5个月,现低头服软求续签

巴拿马上了一课:强行接管中企港口不到5个月,现低头服软求续签

林子说事
2026-07-22 11:36:40
事发上海!女子几度哽咽:差一点要多等11年才能领到养老金,还好你们千方百计找到了我

事发上海!女子几度哽咽:差一点要多等11年才能领到养老金,还好你们千方百计找到了我

新民晚报
2026-07-22 08:54:26
父子反目?郭德纲悲痛发文,杨议曝光猛料,郭麒麟的处境早有预兆

父子反目?郭德纲悲痛发文,杨议曝光猛料,郭麒麟的处境早有预兆

晓肂爱八卦
2026-07-20 11:09:06
7月22日,人社部财政部关于2026年调整基本养老金的通知公布了吗

7月22日,人社部财政部关于2026年调整基本养老金的通知公布了吗

顾蔡卫
2026-07-22 05:46:00
谢贤被爆离世仅一天,谢霆锋惊现两大“噩耗”,彻底撕碎王菲体面

谢贤被爆离世仅一天,谢霆锋惊现两大“噩耗”,彻底撕碎王菲体面

汪巗的创业之路
2026-07-22 09:40:59
“这裤子太危险了”!女子面部朝地,摔断手腕!Zara阔腿裤吐槽疯传,品牌回应

“这裤子太危险了”!女子面部朝地,摔断手腕!Zara阔腿裤吐槽疯传,品牌回应

南方都市报
2026-07-21 21:04:34
飞机上一儿童私自打开客舱充气救生衣,南航客服回应:确有该情况,乘务长和安全员发现后立即介入,已对设备进行更换,未影响飞行安全

飞机上一儿童私自打开客舱充气救生衣,南航客服回应:确有该情况,乘务长和安全员发现后立即介入,已对设备进行更换,未影响飞行安全

大风新闻
2026-07-21 21:46:02
彻底丢脸!白宫爆出惊天内幕丑闻,特朗普暴怒痛斥:简直是耻辱!

彻底丢脸!白宫爆出惊天内幕丑闻,特朗普暴怒痛斥:简直是耻辱!

做个平凡的轩友
2026-07-21 13:59:06
DeepSeek被曝“蒸馏”Claude Fable 5,网友:谢谢梁叔叔百亿补贴

DeepSeek被曝“蒸馏”Claude Fable 5,网友:谢谢梁叔叔百亿补贴

财狗商业评论
2026-07-21 14:43:27
余文乐离婚 | 港台赘婿们的婚姻危机:感情是基础,利益也不容忽视?

余文乐离婚 | 港台赘婿们的婚姻危机:感情是基础,利益也不容忽视?

扒点半吃瓜
2026-07-22 07:00:18
中央开始严查,多地机关事业单位大整顿启动,这几类人受影响最大

中央开始严查,多地机关事业单位大整顿启动,这几类人受影响最大

职场资深秘书
2026-07-21 13:29:45
难怪冉莹颖当年一心倒追,邹市明拒绝23次都不放手,原来是这算计

难怪冉莹颖当年一心倒追,邹市明拒绝23次都不放手,原来是这算计

翰飞观事
2026-07-21 09:49:51
文坛圈层的暗河:中国作协副主席李敬泽力护贾浅浅背后的规则

文坛圈层的暗河:中国作协副主席李敬泽力护贾浅浅背后的规则

爱下厨的阿酾
2026-07-22 09:10:25
彻底翻车!印度“要饭哥”想蹭车去西安,司机全都只指路去派出所

彻底翻车!印度“要饭哥”想蹭车去西安,司机全都只指路去派出所

行者聊官
2026-07-21 08:33:44
贵州美女孔韦去世!年仅39,刚拍完婚纱照,睡觉时被铲车压到致死

贵州美女孔韦去世!年仅39,刚拍完婚纱照,睡觉时被铲车压到致死

小鋭有话说
2026-07-22 09:09:08
武汉大学招生滑铁卢?莫非是学生害怕被炼成保研丹?

武汉大学招生滑铁卢?莫非是学生害怕被炼成保研丹?

夏夏回来了
2026-07-20 16:55:09
华为员工:我的人生很失败,赚了1000多万,买房赔了;孩子成绩全班倒数;媳妇每天不停的抱怨……

华为员工:我的人生很失败,赚了1000多万,买房赔了;孩子成绩全班倒数;媳妇每天不停的抱怨……

LULU生活家
2026-07-21 21:01:36
滔搏:耐克中国线上平台销售将于2027年1月1日起全面终止

滔搏:耐克中国线上平台销售将于2027年1月1日起全面终止

财闻
2026-07-22 08:25:49
2026-07-22 14:56:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
341文章数 53关注度
往期回顾 全部

科技要闻

怕了?美财长扬言:严查中国AI

头条要闻

媒体:特朗普若承认伊朗海峡管理权 会被喷"丧权辱国"

头条要闻

媒体:特朗普若承认伊朗海峡管理权 会被喷"丧权辱国"

体育要闻

“不会进球”的前锋,在世界杯决赛进球了

娱乐要闻

谢贤离世风波再起!王菲探望细节曝光

财经要闻

被误伤的A股:韧性、预期与底气

汽车要闻

WAIC专访|易启未来余志勇:网易孵化按摩机器人 能识穴会“手法”

态度原创

时尚
旅游
房产
艺术
教育

整容、断骨、换血,欧美白男正扎堆服美役

旅游要闻

“禁团令”难阻赴陆热潮

房产要闻

海中870分!2026海南中招提前批分数线出炉!

艺术要闻

王力克 2026油画风景写生新作

教育要闻

日常英语:要自信的表达

无障碍浏览 进入关怀版