网易首页 > 网易号 > 正文 申请入驻

一台手掌大小、300克的AI主机,为什么能跑122B模型?

0
分享至



“当AI原生设备成为Agent新物种主力,底层算力也正在加速重构。”

作者丨包永刚

编辑丨林觉民

把一台能运行122B大模型的AI主机塞进口袋,需要付出什么代价?

过去大半年,端侧AI硬件的逻辑正在发生变化。

两个月前,国内掀起一场现象级的本地部署Agent热潮,大量AI爱好者开始“养虾”,让原本偏小众的Mac mini意外出圈,一度出现溢价和缺货。在更硬核的开发者圈子里,三四万元的英伟达DGX Spark同样热度不低,因为它已经能够在本地运行千亿参数模型。

Mac mini和DGX Spark同时走红,背后其实指向的是同一个趋势:Agent正在迅速抬高端侧AI硬件的门槛。

此前,40TOPS级别的AI PC,仅能完成对话、生成等轻量任务。但进入Agent时代后,开发者开始追求更大的模型、更长时间的本地推理,以及真正能够承担生产力任务的端侧AI设备。

问题随之出现。Mac mini足够安静、低功耗,却很难支撑更大的本地模型;DGX Spark拥有强悍性能,但价格、功耗与散热,又很难真正走向大众化。大算力、低功耗与小体积之间,似乎始终难以兼得。

Agent时代真正缺少的,不再只是一台更强的AIPC,而是一种能够7×24小时运行、低功耗、安静,并具备本地执行能力的新终端。

一种介于AI PC与AI工作站之间的Agent Computer出现了。最近发布的联想AI主机P7,仅300克、30W功耗的设备,拥有190TOPS端侧AI算力,能在本地运行122B参数模型。

01

AI 2.0时代,

需要怎样的Agent Computer?

传统AI更多还是一问一答式交互,任务结束后,模型也随之停止运行。但Agent不同,它需要长期在线、持续调用模型、自主拆解任务,并在本地完成记忆、推理、执行等一整套过程。

这意味着Agent设备比拼的,不再只是瞬时性能,而是长期稳定运行能力。

换句话说,AI 2.0时代真正需要的不是AIPC的简单升级版,而是一种介于AI PC与AI工作站之间的新终端,它既要具备运行大模型的能力,又必须兼顾低功耗、静音、小体积,以及7×24小时持续工作的稳定性。

联想AI主机P7,正是在AI 2.0需求下诞生的Agent Computer新物种。它既尝试接近DGX Spark的大模型生产力能力,又保留了类似Mac mini的低功耗与静音特性。


P7拥有190TOPS异构AI算力(dNPU+SoC),其中160TOPS来自后摩漫界M50 dNPU,30TOPS来自此芯P1 SoC。整机最高支持122B参数模型本地部署,最高可配置80GB RAM,并支持128K上下文窗口。

在无网环境下,P7本地自主推理速度最高可达50 Tokens/s,可以实现7×24小时连续执行Agent任务。

围绕Agent长期在线需求,P7的机身只有手掌大小,重量约300克,甚至可以直接通过充电宝供电运行。为了在小体积下实现持续稳定运行,P7还将整机功耗控制在30W以内,并将运行噪音压低至35分贝以下。

这意味着,联想AI主机P7已经开始真正具备本地生产力价值。

更重要的是,与传统PC+AI的思路不同,P7并不是在原有设备中增加AI功能,而是围绕Agent场景重新定义终端逻辑。

例如,P7采用了一机双模设计,在智能体模式下,本地运行天禧Claw,将复杂任务尽可能留在本地执行;在大模型模式下,则通过开放API Key接入各类AI应用与智能体,直接承担本地推理与Token生成能力。

P7的推出代表着过去只有高功耗工作站才能承担的大模型本地推理能力,开始有机会进入更低功耗、更低成本的小型设备。

而只有当大模型推理能够在低功耗、小体积条件下长期运行,Agent才有可能真正从少数开发者设备,逐渐走向更广泛的消费级与行业终端场景。

支撑这种Agent Computer形态成立的,是P7背后一套不同于传统GPU路线的新算力方案。

02

千亿模型装进口袋之后,

算力逻辑也变了

联想在P7立项初期就已经明确,要做一台能放进口袋、又能本地运行大模型的AI主机。这意味着它的芯片必须同时满足三个几乎互斥的条件:大算力、低功耗、小体积。

传统AI芯片很难同时兼顾这些需求,核心在于数据搬运——计算单元与存储单元物理分离,数据在两者之间频繁流动,带来额外的能耗与延迟。

AI芯片行业因此不断探索新的架构路径,其中一个正在被越来越多厂商探索的方向就是存算一体,存算一体让数据在存储侧就近完成计算,从而减少搬运开销,提升整体能效。

联想选择引入存算一体架构芯片,作为P7的主要AI算力来源,也就是dNPU(Discrete NPU),它类似于独立GPU的定位,拥有更强的AI性能。

这颗dNPU,正是后摩智能在2025年推出的存算一体AI芯片——后摩漫界M50。

后摩漫界M50采用存算一体架构设计,具备160TOPS物理算力,配备最高48GB内存与153.6GB/s带宽,典型功耗仅10W,能效达到传统架构芯片的5~10倍。


雷峰网了解到,M50在设计阶段就针对大模型部署进行了优化,通过SRAM与48GB LPDDR5的组合方案,在兼顾性能的同时,提升了千亿参数模型的可部署性与成本可控性。

真正的挑战不止于芯片,而是如何让千亿参数模型在一台300克级别的设备上长期稳定运行。这需要联想与后摩智能在本地Agent系统、推理框架以及软硬件协同层面进行深度配合。

尤其是在Agent执行链路、模型调度与端侧资源管理上,联想需要一套全新的系统能力来支撑持续运行的AI任务。

从2025年下半年项目正式启动开始,联想与后摩智能组建联合团队,围绕硬件设计、软件适配与推理框架展开了长达十多个月的联合攻坚,最终实现了在后摩漫界M50上运行千亿参数大模型。

目前,P7已经支持千问、智谱、DeepSeek等主流模型,并可实现新模型的Day0适配,即模型发布当天即可完成运行支持。对于用户而言,这使得P7不再只是演示型设备,而是一台可长期运行Agent任务的本地AI终端。

从芯片到系统,再到Agent执行能力,联想与后摩智能正在共同验证一种新的AI主机形态。

随着端侧大模型持续演进,这种兼顾性能、功耗与长期运行能力的Agent Computer,正在成为AI 2.0时代最具现实落地潜力的终端方向之一。

03

Agent 浪潮重构硬件规则,

存算一体迎来推理黄金时代

AI芯片的竞争逻辑,正在发生一场静默的翻转。

过去几年,行业的核心指标是峰值算力,比拼的是谁能训练更大的模型,GPU也因此成为整个AI时代的核心基础设施。

但当AI从1.0时代的生成一次回答走向2.0时代的长期运行、持续执行任务的Agent形态后,芯片的评价体系开始变化:能效比、持续推理能力、本地执行复杂任务的稳定性,逐渐与峰值算力同等重要。

这一变化并不是传统AI芯片的优势所在,却为新的架构路径打开了窗口。

一个明显的信号来自行业巨头。英伟达重金收购初创公司 Groq 核心技术资产,将其 LPU (Language Processing Unit)语言处理单元用于高性能推理场景。后摩智能与Groq都是存算一体技术路线,都是基于SRAM设计产品,减少数据搬运、提升推理能效,只是产品叫法不同。

后摩智能在成立之初就专注于存算一体技术的研发与产业化,2024年推出针对大模型推理优化的后摩漫界M30,支持运行60亿参数模型,并获得了中国移动等客户。

目前,基于后摩漫界M50,后摩智能已经搭建起M.2卡、DM.2卡、Pcie卡,最高 640TOPS 算力的完整产品矩阵,并完成了从技术原型到规模化商用的关键跨越。如今后摩漫界M50已全面落地联想AI主机P7、 AI PC、桌面机器人、Agent Box、智能语音终端、AI 网关等多元端边场景。

后摩智能也在研发下一代芯片,目标是进一步提升能效比与大模型推理能力,以适配未来更复杂的Agent时代。

这是一个标志性的转折点,GPU 定义了大模型训练时代,而 Agent 的全面爆发,正将算力竞争从云端训练中心,推向海量的端侧、边缘推理节点。在这场算力格局迁移中,以存算一体为代表的 AI 原生架构,不再只是 GPU 的补充或替代,更在逐步建立端侧 Agent 时代的全新硬件标准。

随着Agent开始向更多本地设备渗透,行业对于低功耗、高能效端边推理芯片的需求也会持续增加。

未来,围绕端侧大模型推理,还会出现更多新的芯片形态与架构路线。

在这场Agent驱动的AI硬件范式切换中,AI原生的芯片成为竞争的关键,像后摩智能这样率先完成存算一体商业化落地的公司,正在进入更大的增长通道。

更多关于推理时代算力需求的深度交流欢迎添加作者微信BENSONEIT。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大湾区德比今晚开打!宏远VS香港金牛,徐杰又当小外,弗格正式复出

大湾区德比今晚开打!宏远VS香港金牛,徐杰又当小外,弗格正式复出

多特体育说
2026-11-21 00:08:16
泽连斯基回应克里米亚大桥被炸:我们的东西,想怎么处置就怎么处置

泽连斯基回应克里米亚大桥被炸:我们的东西,想怎么处置就怎么处置

桂系007
2026-11-20 09:09:12
日本东京万人集会抗议高市政权政策

日本东京万人集会抗议高市政权政策

新华社
2026-11-20 00:29:26
刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

韩小娱
2026-11-19 08:49:36
A股:不必等开盘了,主力已经明牌!下周一将有更大的暴风雨?

A股:不必等开盘了,主力已经明牌!下周一将有更大的暴风雨?

虎哥闲聊
2026-11-21 00:00:04
如何看待夜盘人民币的大幅贬值?

如何看待夜盘人民币的大幅贬值?

M2M投研
2026-11-20 10:03:02
金融危机不是要来了,而是已经到来了:最先露馅的是黄金

金融危机不是要来了,而是已经到来了:最先露馅的是黄金

小陆搞笑日常
2026-11-20 16:00:23
兴奋剂违规!28岁国羽名将遭禁赛3年 曾获全运会冠军 教练被禁1年半

兴奋剂违规!28岁国羽名将遭禁赛3年 曾获全运会冠军 教练被禁1年半

我爱英超
2026-11-20 19:31:46
深圳 APEC 世纪晚宴菜单曝光,以地道粤菜为主,同时融入国际菜肴元素,菜品设计考量了哪些核心因素?

深圳 APEC 世纪晚宴菜单曝光,以地道粤菜为主,同时融入国际菜肴元素,菜品设计考量了哪些核心因素?

贵重物品爱美食
2026-11-19 22:17:48
34岁前国脚出来了!因赌球被终身禁足+获刑3年 与两名女网友合影

34岁前国脚出来了!因赌球被终身禁足+获刑3年 与两名女网友合影

念洲
2026-11-20 13:51:28
1999年,赖昌星带着3700万元进京,想打点海关总署副署长牟新生,结果连面都没见上;回去后他对厦门海关关长放话:以后想办法把他除掉

1999年,赖昌星带着3700万元进京,想打点海关总署副署长牟新生,结果连面都没见上;回去后他对厦门海关关长放话:以后想办法把他除掉

人生录
2026-11-06 07:30:25
油价调整:注意,预计下调460元/吨,下调力度再加码!

油价调整:注意,预计下调460元/吨,下调力度再加码!

金投网
2026-11-20 10:34:16
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
WTT球星赛:男单4强出炉!中日各1人韩国2人,国乒战日本世界冠军

WTT球星赛:男单4强出炉!中日各1人韩国2人,国乒战日本世界冠军

全言作品
2026-11-21 00:06:58
任达华毁容烧声!半边烂脸急就医 狠甩鲜肉男星5巴掌超内疚

任达华毁容烧声!半边烂脸急就医 狠甩鲜肉男星5巴掌超内疚

ETtoday星光云
2026-11-19 10:11:03
浙江,女子与男子初次约会,点了2万多火锅,男子称腹痛离开,女子被逼支付6800元后报警,结果让人大跌眼镜!

浙江,女子与男子初次约会,点了2万多火锅,男子称腹痛离开,女子被逼支付6800元后报警,结果让人大跌眼镜!

黎兜兜
2026-11-20 23:35:29
昨晚比亚迪又发新车了!台下坐得人屁股生疼,友商当晚就失眠了

昨晚比亚迪又发新车了!台下坐得人屁股生疼,友商当晚就失眠了

小李车评李建红
2026-11-20 08:00:13
全网断货!销量大涨6倍,盒马紧急“警告”!

全网断货!销量大涨6倍,盒马紧急“警告”!

中国商报
2026-11-18 17:19:16
18个账户被冻结!杭州警方发布紧急通告

18个账户被冻结!杭州警方发布紧急通告

环球网资讯
2026-11-20 19:54:08
第五轮计算机学科排名出炉,实力梯队揭示排名的真实价值

第五轮计算机学科排名出炉,实力梯队揭示排名的真实价值

户外阿毽
2026-11-20 09:12:46
2026-11-21 01:52:49
雷峰网 incentive-icons
雷峰网
关注智能与未来!
71744文章数 656269关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
艺术
本地
教育
公开课

亲子要闻

为什么儿童烫伤后要立即冲凉水?专家释疑

艺术要闻

2026 研究与超越——中国小幅油画作品双年展 油画选(二)

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

教育要闻

全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版