![]()
爱芯元智亮出"元曦"系列:边缘端也能跑大算力推理
AI推理的主战场,正在从云端往"边缘"搬——摄像头、工业相机、零售终端、具身机器人,这些设备巴不得在当地就把活干了,别事事都回云端。7月19日,在2026世界人工智能大会上,爱芯元智首次释出"元曦"系列大算力AI推理新品,瞄准的就是这块市场。
一、"元曦"是什么?
简单说,它是一组面向高并发、高负载场景的AI推理卡和模组。其中A系列AI推理卡,直接堆到了超1000 TOPS的推理算力,还配了超大显存和超高显存带宽。配合已经规模化落地的M.2算力卡、标准化核心模组,爱芯元智想搭起一个"从最小到最大"分层全覆盖的边缘算力矩阵。
边缘侧和云端最大的不同,是对功耗、体积、实时性的苛刻要求。能在设备端跑起大算力,意味着很多识别、分析可以本地完成,不用把数据频繁传上云,既快又省带宽,还更利于数据不出门。
二、它想解决什么场景?
爱芯元智的技术底盘,是高能效AI芯片和边、端侧AI能力,核心是自研的"爱芯通元"混合精度NPU。围绕它,公司把触角伸进了智慧工业、智慧教育、商业办公、零售民生,以及眼下最热的具身智能。
拿工业举例:在产线上做实时缺陷检测,过去可能要工控机加独立显卡,现在一张边缘推理卡就能顶上;在具身智能里,机器人本体的视觉理解如果全依赖云端,网络一抖就傻眼,本地算力就成了刚需。"元曦"要填的,正是这类"既要实时、又要省电、还要够聪明"的缝。
三、边缘算力的牌局
大模型出来后,大家一度觉得"所有智能都会集中到几个超大数据中心"。但现实是,海量设备产生的数据,等不及、也未必该全部上云。把推理能力下沉到边缘,正在成为一条越来越清晰的产业路线。
爱芯元智把"元曦"摆上WAIC的台面,背后是边缘AI从"能跑"走向"跑得猛"的转折。当端侧也能轻松吃下大算力,AI真正嵌入物理世界的速度,可能会比想象中更快。
四、边缘AI的窗口期
把算力塞进摄像头和机器人,不是新鲜事,但过去常受限于"跑得动但不够聪明"。大模型带来的变化是:端侧模型变小变强,配合专用NPU,很多原本必须上云的任务开始能在本地解决。这对隐私敏感、网络不稳、要求实时响应的场景尤其友好。爱芯元智这类公司的机会,正藏在这一波"推理下沉"的窗口里——谁先把边缘侧的体验和成本做顺,谁就先吃到红利。
值得注意的是,边缘算力不是大厂的专属游戏。正因为单卡成本、功耗都更友好,中小厂商和垂直行业反而更容易切入——一套工厂质检方案、一个门店客流分析盒子,都可能成为边缘AI的第一个落脚点。谁能把"小而美"做扎实,谁就能在巨头看不上的缝隙里长大。
来源:新京报贝壳财经,2026-07-19
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.