网易首页 > 网易号 > 正文 申请入驻

英伟达新一代算力平台补齐拼图 结合DeepSeek模型Token成本可降35倍

0
分享至

《科创板日报》8月25日讯(编辑 宋子乔)英伟达硬件演进正加速驶向下一站,为智能体(Agent)打造新一代算力平台。

当地时间8月24日,英伟达宣布,推理加速器Groq 3 LPX机架已进入全面量产阶段。英伟达高级总监Dion Harris表示,Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心,并将于今年晚些时候上线。

Groq 3 LPX机架是英伟达专为Vera Rubin平台设计的推理加速扩展组件,需与 Vera Rubin NVL72 GPU主机架搭配部署——NVL72负责更广泛的训练、推理以及上下文处理,LPX专门加速输出AI生成结果(Token),主打超低延迟Token生成,两者异构协同,可大幅提升万亿参数、超长上下文智能体推理的每瓦吞吐与交互响应速度。

英伟达此前将Vera Rubin平台定义为专为智能体AI与科学计算时代设计的机架级超级计算平台。英伟达此次将Groq 3 LPX正式推向全面生产,核心目的并不是用专用推理芯片取代GPU,而是为Vera Rubin补充传统GPU架构在低延迟Token生成方面的能力。

相比Blackwell,Vera Rubin在智能体工作上的效率得到了极大的提升,英伟达释出多个最新测试数据(本次测试使用的基准为SemiAnalysis AgentX,该基准针对Kimi K3、MiniMax M3、GLM5.3、Qwen3.5、DeepSeek V4 Pro等各类模型)——

英伟达称,在Artificial Analysis测试中,搭载Gemma 4 31B模型、100K Token上下文时,Groq 3 LPX实现每秒3400个输出Token,为该模型创下最高纪录;针对智能体编程等低延迟工作负载,其响应速度最高达到最近竞争平台的4倍。英伟达称,这种速度可以让智能体更快完成代码编写、测试、工具调用和结果验证等连续任务。

与此同时,英伟达公布Vera Rubin NVL72在真实智能体工作负载下的新测试结果:基于SemiAnalysis的AgentX工作负载、采用DeepSeek V4 Pro模型,Vera Rubin每兆瓦(MW)吞吐量最高达到上一代GB300 NVL72的30倍,每Token成本最高降低35倍。对于运营商而言,这意味着在固定的电力和基础设施预算下,可以支持更高的交互式代理容量,或者以更低的运营成本提供相同的容量。



英伟达新一代算力平台结合DeepSeek模型Token成本可降35倍

英伟达强调,智能体任务不同于传统聊天对话,任务上下文会随着数百个步骤不断累积,甚至达到数十万Token。英伟达援引OpenRouter数据称,智能体AI工作负载消耗的Token数量可以达到简单聊天请求的15倍。原因在于,一个智能体可能先查询数据库,再搜索新闻和文件,调用子智能体进行分析,运行代码并反复验证,整个过程中上下文不断累积。

近期腾讯、阿里、DeepSeek等头部厂商相继推进AI智能体产品迭代与生态布局,AI应用端发展聚焦终端场景落地与生态壁垒搭建。天风国际证券最新研报称,当前Harness加速开放迭代,前沿AI竞争正向Agent执行框架与商业化兑现深化。

英伟达正紧随这一趋势调整硬件优化方向,当AI迈入智能体时代,AI基础设施的评价体系或将随之变化,基础设施服务商的硬件迭代重心将从追求训练更大模型,转向单位能耗有效Token产出、单位成本任务处理能力,以及智能体复杂任务的执行时延。

(科创板日报 宋子乔)

责任编辑:荀建国_NN7379

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人前玉女,人后,“欲女”,初代清纯白月光,48岁至今未婚无人敢娶

人前玉女,人后,“欲女”,初代清纯白月光,48岁至今未婚无人敢娶

悠悠说世界
2026-08-24 23:03:18
你见过凶手比被害人死的还早的案件吗?此案号称四川最离奇也是最烧脑的案件之一,2010年的案子

你见过凶手比被害人死的还早的案件吗?此案号称四川最离奇也是最烧脑的案件之一,2010年的案子

法网恢恢
2026-08-24 18:45:08
魏莹事件再反转!与榜一大哥聊天记录曝光,聊"以后会不会有孩子"

魏莹事件再反转!与榜一大哥聊天记录曝光,聊"以后会不会有孩子"

乡野小珥
2026-08-22 12:35:08
美国网红小唐酱香饼的瓜:从二手车坑同胞到假牙膏割粉丝

美国网红小唐酱香饼的瓜:从二手车坑同胞到假牙膏割粉丝

杭城村叔
2026-08-25 09:02:17
《花开锦绣》大结局:为啥田婉仪聪慧通透,掌控全局,而俞敬修刚愎自用,下场凄惨

《花开锦绣》大结局:为啥田婉仪聪慧通透,掌控全局,而俞敬修刚愎自用,下场凄惨

小椰的奶奶
2026-08-25 12:20:08
仅64万元/台!英伟达桌面 AI 超级电脑价格曝光:GB300+748GB 统一内存!

仅64万元/台!英伟达桌面 AI 超级电脑价格曝光:GB300+748GB 统一内存!

EETOP半导体社区
2026-08-24 11:30:51
张丹丹吹响了向社会主义中级阶段迈进的冲锋号

张丹丹吹响了向社会主义中级阶段迈进的冲锋号

朝廷心腹
2026-08-24 19:54:50
向太陈岚自曝对易立竞采访向佐那期节目很不满:我在里边真的是好像不值一提

向太陈岚自曝对易立竞采访向佐那期节目很不满:我在里边真的是好像不值一提

韩小娱
2026-08-24 20:12:30
宁死不向中国低头!铃木退出中国市场,铃木修曾说:“我就是死,也不会向中国市场低头!”随后,以1块的价格,把铃木50%的股份卖给了长安

宁死不向中国低头!铃木退出中国市场,铃木修曾说:“我就是死,也不会向中国市场低头!”随后,以1块的价格,把铃木50%的股份卖给了长安

扶苏聊历史
2026-08-22 17:24:17
北京火葬场一幕戳心!不少家属直接放弃骨灰,背后藏多少现实难处

北京火葬场一幕戳心!不少家属直接放弃骨灰,背后藏多少现实难处

今日搞笑分享
2026-08-25 00:21:23
彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

她时尚丫
2026-08-07 18:55:34
酱油为什么分生抽和老抽?“抽”是啥意思?建议弄懂再买,不吃亏

酱油为什么分生抽和老抽?“抽”是啥意思?建议弄懂再买,不吃亏

混沌录
2026-08-21 21:59:33
高雄告急,澎湖告急,新竹与基隆也告急,郑丽文要将赖清德拉下马

高雄告急,澎湖告急,新竹与基隆也告急,郑丽文要将赖清德拉下马

三毛看世界
2026-08-24 11:42:46
住不起也卖不掉!20年盖起5000栋超高层,正变成城市“烫手山芋”

住不起也卖不掉!20年盖起5000栋超高层,正变成城市“烫手山芋”

福建睿平
2026-08-23 07:46:42
捏蛋女已社死:正脸曝光面目狰狞,工作单位被扒,一家都是狠角色

捏蛋女已社死:正脸曝光面目狰狞,工作单位被扒,一家都是狠角色

吃瓜盟主
2025-08-30 15:53:04
难怪中日不能交战!宝岛退将曾言:日本若介入台海,30分钟内瘫痪

难怪中日不能交战!宝岛退将曾言:日本若介入台海,30分钟内瘫痪

尘世闲云
2026-08-19 18:05:19
许家印判无期才3天,白珊珊私生活被扒,被曝悄悄嫁给了这个男人

许家印判无期才3天,白珊珊私生活被扒,被曝悄悄嫁给了这个男人

刘森森
2026-08-22 10:05:42
他从师长调任公安部队参谋长,要求配备副参谋长,并让副军长担任副手

他从师长调任公安部队参谋长,要求配备副参谋长,并让副军长担任副手

历史龙元阁
2026-08-24 13:00:21
两性心理学:房事上女人不怕肢体接触,怕的是男人这两个“骚操作”

两性心理学:房事上女人不怕肢体接触,怕的是男人这两个“骚操作”

心理观察局
2026-08-17 06:45:11
张雪峰前妻李丽婧发文:雪峰留的钱已经存入信托,为了女儿的生活,接下来会研发一款好用的笔,会很快和大家见面

张雪峰前妻李丽婧发文:雪峰留的钱已经存入信托,为了女儿的生活,接下来会研发一款好用的笔,会很快和大家见面

In风尚
2026-08-19 06:05:15
2026-08-25 15:28:49
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
756377文章数 1022347关注度
往期回顾 全部

科技要闻

机器人跑赢博尔特,身体太快,脑子还在追

头条要闻

"跳高女神"退役被恶意揣测"怀孕、傍上富豪" 本人回应

头条要闻

"跳高女神"退役被恶意揣测"怀孕、傍上富豪" 本人回应

体育要闻

迪巴拉梦幻一战:1v4强突 倒三角妙传

娱乐要闻

韩佩颖直播说错话,终究毁了路人缘

财经要闻

瓜子二手车乱象调查

汽车要闻

旗舰豪华MPV新高度 尊界V800亮相2026成都车展

态度原创

健康
家居
游戏
数码
教育

孩子有脊柱侧弯,还能正常运动吗?

家居要闻

2026建博会(广州) 公装联探展交流活动

看了这场三周年演出,你就能明白为什么《蔚蓝档案》始终是款“小游戏”"/> 主站 商城 论坛 自运营 登录 注册 看了这场三周年演出,你...

数码要闻

漫步者Comfo Clip Q2智能耳夹耳机发布:海思芯片+开源鸿蒙

教育要闻

发现一个潜规则,顶层的家庭里,绝对不会让孩子去碰这3件事;底层家庭里的孩子却相反,往往会在这上面很沉迷

无障碍浏览 进入关怀版