网易首页 > 网易号 > 正文 申请入驻

端侧AI成WAIC大热门!后摩要用这颗芯把千亿大模型塞进口袋

0
分享至



7 月 17 日,第九届世界人工智能大会(WAIC)在上海世博中心正式开幕,作为一年一度的 AI 行业盛会,今年大会依然聚集了国内外大模型公司、AI 应用和硬件厂商,雷科技(ID:leitech)旗下AI新媒体「雷科技AGI(leikejiagi)」也派出报道团,赴上海进行现场报道。

作为以 AI 为主题的展会,WAIC 随处可见Agent 和具身智能,但有这么一个展台,它没有展出各种人形机器人,也没有 AI 相关的概念产品,只有几台看起来像路由器、像迷你主机的东西。而就是这家叫做后摩智能的厂商,居然将联想、长城、中国移动这些巨头的印在了同一个背景板上。



(图片来源:后摩智能官方)

简单来说,当所有人都在想着怎么拿出思考能力更强的 Agent 时,后摩做的则是背后的那颗芯片。

但很多人没有注意到的是,我们天天说大模型越来越聪明,参数从 7B 涨到 70B,再到 700B,但你手机上跑的 AI,跟你公司数据中心里跑的那个,根本不是一个物种。云端大模型确实强,但每次调用都要把数据传到千里之外的服务器上绕一圈,而这个流程存在诸如延迟、功耗、Token 费用、隐私风险等一系列问题。

这也是为什么,今年行业把 2026 年称为「端侧 AI 元年」,市面上涌现出越来越多的 AI PC、AI 手机、智能机器人、AI 终端等产品,但这些设备都有一个共同的缺点:怎么在巴掌大的空间里塞进跑大模型的算力,还不发烫、不耗光电?



(图片来源:雷科技现场摄制)

而这就是后摩智能一直在做的事情。它们发布的 M50 芯片的核心参数看起来其实不算亮眼:10W 功耗、160 TOPS 算力、能跑 30B 到 120B 参数的大模型。可能有读者发现了,它的功耗做到了 10W,远比市面上同等算力的产品低不少。

这源于后摩 M50 芯片的全新架构,在传统芯片里,计算单元和存储单元是分开的,算一次数据就要来回搬运一次,这个「搬运」本身消耗的能量有时候比真正计算用的还多——业内叫它「存储墙」。后摩的做法叫「存算一体」:把存储和计算做在同一块硅片上,数据不用「来回跑」,功耗自然就降低了。



(图片来源:雷科技现场摄制)

而搭载这款芯片的产品也很有意思,我们以联想 AI 主机 P7 为例,它只有手掌大小、重 300 克,整机功耗只有30W,意味着一个普通充电宝就能供电。但它能离线跑 1220 亿参数的大模型,推理速度 50 Tokens/s,翻译成人话就是:哪怕断网了,它照样能跟你正常聊天、写文档、分析表格,表现跟联网状态下没什么区别。最重要的隐私问题也顺带给你解决了,因为所有数据都在这个「盒子」里运作,不存在联网泄露的情况。



(图片来源:雷科技现场摄制)

长城 N90 Pro 也是一台很有代表性的产品:全栈国产 AI 笔记本,飞腾 CPU 加麒麟系统加 M50 芯片加国产大模型,在断网环境下能跑 35B 大模型,推理速度达到 30 Tokens/s,政务、金融、能源这些行业一看就懂它的价值。还有聊趣智能的 ClawHouse X1 Pro,全息交互个人智算中心,能同时跑 3D 渲染、百亿级大模型推理、低延迟语音交互,等于把智能办公和智慧教育打包成了一个「个人 AI 服务器」。联想 AI Workmate 概念机则走桌面机器人路线,扫描文档就能自动生成 PPT,投影成共享看板,全程断网可用。



(图片来源:雷科技现场摄制)

从这些展台上的产品我们不难看出后摩的路线跟行业巨头英伟达完全不一样。英伟达做的是通用算力平台,追求统一和全场景覆盖;而后摩做的是一颗专门为端侧推理优化的芯片,让终端厂商「即插即用」。对终端厂商来说,既不用从头研究芯片,也不用忍受云端 API 的时延和成本,只需插一块卡就完成 AI 化升级。在这种模式的协作下,端侧 AI 的普及速度会比我们想象得快得多。

那么端侧 AI 到底为什么重要?很多人觉得好处就是断网也能用,这没错,但只看到了最浅的一层,真正的价值其实有三层。

第一层是成本。云端大模型的 Token 费用不便宜,普通用户一个月都得花费一两百元,重度用户更是轻轻松松四五百元。而在本地推理的状态下,你不需要为芯片和电费付钱,成本自然大幅降低;第二层是隐私,你的聊天记录、工作文件、个人数据不用上传到任何服务器,全程在你手边的设备上处理,这不需要你相信任何公司的「隐私承诺」,因为数据从物理上就没离开过你的设备;第三层是体验,云端 AI 延迟几十毫秒到几百毫秒是免不了的,网络波动更是家常便饭,端侧推理可以做到毫秒级,交互丝滑得多,而且你的 AI 不用跟几百万用户抢算力,换句话说它就是你一个人的专属助理,随叫随到。

M50 是目前国内端侧 AI 芯片里,从技术到量产到生态闭环做得最完整的一家。尤其是10W 功耗实现 160 TOPS 的能力不是简单堆晶体管就能做到的,存算一体架构的选择让它天生适合端侧场景。更难得的是,后摩没有只卖芯片,而是把 M.2 卡、加速卡、软件工具链一起推了出来,客户不用自己调参量化,装上就能用。这个「开箱即用」的能力,进一步降低了规模商业化的门槛。



(图片来源:雷科技现场摄制)

不过端侧 AI 市场处于刚刚起步的阶段,2026 年虽然是「元年」,但能跑多远还要看两点:一是联想、长城这些终端巨头的产品能不能真正打动市场,毕竟东西再好,卖不出去就是白搭;二是云端 AI 的成本在持续下降,端侧的优势能不能长期维持,需要持续迭代。

其次后摩的对手越来越多,除了前文提到的行业巨头英伟达,高通、联发科也在布局端侧 AI,华为昇腾体系更是全栈自研。我们不妨期待后摩在之后还能给市场带来什么新产品。

总的来说,后摩智能在 WAIC 2026 上交出的答卷,不是一颗芯片,而是一个完整的「端侧 AI 生态雏形」。后摩拿到入场券了吗?从这次 WAIC 的情况来看,小雷觉得,它已经坐在牌桌上了。

主题为「智能伙伴·共创未来」的WAIC2026正在火热开展中!
AI叙事路线从模型参数堆叠,转变到Agent生产力落地;异构协同、光子计算持续提高计算上限;具身智能加速应用,机器人到家进厂让物理AI变为现实。
雷科技WAIC探展团已抵达上海,直击AI产业化落地年度巅峰时刻,敬请关注!



特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
堂弟弟结婚没通知我,次日婶婶带他找上了,逼我随礼1万我冷笑

堂弟弟结婚没通知我,次日婶婶带他找上了,逼我随礼1万我冷笑

麦子情感故事
2026-06-18 23:34:05
2020年克林顿坦言出轨原因,莱温斯基:拉开裤链后他要用雪茄助兴

2020年克林顿坦言出轨原因,莱温斯基:拉开裤链后他要用雪茄助兴

万国明信片
2026-06-28 18:07:20
成都一女子不洗手抱孙子,儿媳怒斥不卫生,儿子一拳打面中,母亲扬言要儿子坐牢,儿子却说:她活该!6年后现状曝光...

成都一女子不洗手抱孙子,儿媳怒斥不卫生,儿子一拳打面中,母亲扬言要儿子坐牢,儿子却说:她活该!6年后现状曝光...

背包旅行
2026-07-02 14:33:11
徐克送别施南生仅一天,小30岁女友过往被扒,原来她才是人间清醒

徐克送别施南生仅一天,小30岁女友过往被扒,原来她才是人间清醒

白面书誏
2026-07-16 14:41:23
夫妻AA制35年,丈夫临终前把钱全留给儿子,儿子取钱时却愣在了原地

夫妻AA制35年,丈夫临终前把钱全留给儿子,儿子取钱时却愣在了原地

灵魂漂流瓶
2026-07-18 18:50:24
四年多了,普京为何拿泽连斯基毫无办法?毛主席这两句话中有答案

四年多了,普京为何拿泽连斯基毫无办法?毛主席这两句话中有答案

摘史
2026-07-18 10:58:48
马斯克有句话点醒过我“如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事。”

马斯克有句话点醒过我“如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事。”

LULU生活家
2026-07-07 20:59:47
问界M9车主:平均36.4岁 家庭年收入92.1万元

问界M9车主:平均36.4岁 家庭年收入92.1万元

新浪财经
2026-07-17 20:27:39
70岁老人病危,三个子女都是主任医师,会诊后一致决定停止插管

70岁老人病危,三个子女都是主任医师,会诊后一致决定停止插管

千秋文化
2026-07-16 20:00:10
高市早苗白忙一场:25国代表齐聚上海,中国的贵客们都到了!

高市早苗白忙一场:25国代表齐聚上海,中国的贵客们都到了!

遁走的两轮
2026-07-17 17:54:08
中国要做好最充足的打算:俄罗斯一旦最后赢了,我们要做好3件事

中国要做好最充足的打算:俄罗斯一旦最后赢了,我们要做好3件事

健身狂人
2026-07-18 18:13:22
网红洗发皂暴雷!用了掉发更严重,成本仅1.5元,全是营销骗局

网红洗发皂暴雷!用了掉发更严重,成本仅1.5元,全是营销骗局

小嵩
2026-07-16 05:11:54
杨宇霆亲信多年后含泪讲述,他临刑前留下一句话,彻底点明自己因为轻视张学良,才落得被下令枪决的下场

杨宇霆亲信多年后含泪讲述,他临刑前留下一句话,彻底点明自己因为轻视张学良,才落得被下令枪决的下场

磊子讲史
2026-07-09 11:23:58
LV法务部忙疯了,股价却跌惨了!全民硬刚,告不完!

LV法务部忙疯了,股价却跌惨了!全民硬刚,告不完!

户外钓鱼哥阿旱
2026-07-18 11:26:01
周星驰《功夫女足》口碑炸裂,王晶、任贤齐和黄一飞等纷纷力挺

周星驰《功夫女足》口碑炸裂,王晶、任贤齐和黄一飞等纷纷力挺

千信齐飞
2026-07-18 06:28:39
Palantir CEO:AI会让我财富翻20倍,普通人工资仅翻倍,社会面临大问题

Palantir CEO:AI会让我财富翻20倍,普通人工资仅翻倍,社会面临大问题

固件更新中
2026-07-18 00:04:05
王炸!武汉超大规模城中村要拆了!

王炸!武汉超大规模城中村要拆了!

越乔
2026-07-18 22:34:39
事实证明,已经“消失”7年的周立波,早已走上一条不归路

事实证明,已经“消失”7年的周立波,早已走上一条不归路

素衣读史
2026-04-16 19:41:20
25国派兵围俄,普京被逼入绝境,中方亮中俄条约

25国派兵围俄,普京被逼入绝境,中方亮中俄条约

心灵得以滋养
2026-07-18 05:36:03
亿万家产也没用!69岁赵本山近况曝光,儿子不争气 女儿婚礼上热

亿万家产也没用!69岁赵本山近况曝光,儿子不争气 女儿婚礼上热

墨印斋
2026-06-28 13:27:13
2026-07-19 03:27:00
雷科技 incentive-icons
雷科技
专注AI硬科技
37420文章数 812282关注度
往期回顾 全部

科技要闻

WAIC2026看什么?这份"不迷路"攻略请收好

头条要闻

“黄总请你去包厢” “黄总”身份公布

头条要闻

“黄总请你去包厢” “黄总”身份公布

体育要闻

德尚是非典型法国人 14年执教留下丰厚遗产

娱乐要闻

大S给具俊晔留遗产是昏头?实际上她清醒得很

财经要闻

股民当街砍博主!韩国股市 终极大屠杀

汽车要闻

把中国超跑卖到英国,比亚迪正在被世界看见

态度原创

游戏
数码
艺术
家居
公开课

守望先锋推出十年以来最涩泳装,玩家却只关心脚裹得太严实?

数码要闻

RTX 5060换芯不换性能!微星V1版用上5070核心:大芯片散热反而更好

艺术要闻

中企助力,蒙古国新第一高楼,施工规模已显!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版