网易首页 > 网易号 > 正文 申请入驻

英伟达发力智能体!开源模型Nemotron 3 Super参数1200亿,吞吐量提升五倍

0
分享至

英伟达正在自主智能体基础设施竞争中发力,标志着这家芯片巨头在人工智能(AI)竞赛中从硬件供应商向模型层深度延伸的战略转变。

美东时间11日周三,英伟达宣布推出新一代开源大语言模型Nemotron 3 Super,专为企业级多智能体系统设计,凭借全新的混合专家(MoE)架构,将推理吞吐量提升至上一代模型的五倍以上。该模型的总参数量达1200亿,推理时仅激活120亿参数,原生支持100万token上下文窗口。

英伟达表示,Nemotron 3 Super在效率与开放性方面已登顶Artificial Analysis榜首,同等规模模型中准确率领先,并驱动英伟达AI-Q研究智能体在DeepResearch Bench及DeepResearch Bench II两大排行榜中位列第一。

英伟达披露了Nemotron 3 Super的首批合作伙伴。AI搜索公司Perplexity成为首家接入该模型执行智能体任务的合作方,为用户提供搜索及Computer产品中的多智能体编排服务。Palantir、西门子、Cadence、达索系统及Amdocs等企业软件巨头也已宣布将部署该模型,用于电信、网络安全、半导体设计及制造等领域的工作流自动化。

Nemotron 3 Super模型现已通过英伟达旗下build.nvidia.com、Hugging Face及OpenRouter等渠道向开发者开放。

两大瓶颈催生新架构

英伟达在博客中指出,企业从聊天机器人迈向多智能体应用时,面临两项核心约束。

其一为"上下文爆炸":多智能体工作流每次交互均需重新传输完整历史记录(含工具输出和中间推理步骤),生成的token数量最高可达标准对话的15倍。随着任务延伸,这一海量上下文不仅推高成本,还会导致"目标漂移"——智能体逐渐偏离原始目标。

其二为"思考税":复杂智能体须在每一步骤进行推理,若每个子任务均调用大型模型,多智能体应用将因成本高昂、响应迟缓而难以落地。

Nemotron 3 Super通过100万token原生上下文窗口直接回应上下文爆炸问题,确保智能体在超长任务中保持状态连贯,防止目标漂移。而混合架构设计则针对性化解思考税。

三重架构创新支撑五倍提速

英伟达博客披露,Nemotron 3 Super的性能跃升来自三项架构层面的核心创新。

  • 混合Mamba-Transformer骨干网络:模型交错部署Mamba-2层与Transformer注意力层。Mamba层处理大部分序列任务,以线性时间复杂度提供4倍内存与计算效率提升,使百万token上下文窗口具备实际可行性;Transformer层则在关键深度插入,保障精确的关联召回能力。
  • 潜在专家混合模型(latent MoE):在路由决策前,将token嵌入压缩至低秩潜空间,专家计算在该较小维度内完成后再投影回全维度。英伟达表示,这一设计使模型以相同推理成本激活4倍数量的专家,实现更细粒度的专业化路由——例如针对Python语法与SQL逻辑分别激活不同专家。
  • 多token预测(MTP):模型在单次前向传播中同步预测多个未来token,而非逐token生成。英伟达称,这一设计在训练阶段强化了模型对长程逻辑依赖的内化,在推理阶段则内置推测解码能力,对代码和工具调用等结构化生成任务实现最高3倍的速度提升,且无需额外草稿模型。

在英伟达Blackwell平台上,该模型以NVFP4精度运行,相比英伟达Hopper平台的FP8,推理速度最高提升至4倍,且据英伟达称精度无损失。

开放权重叠加多层生态布局

与当前主流前沿模型普遍采用API-only访问方式不同,英伟达选择以宽松许可协议开放Nemotron 3 Super的权重、数据集与训练方案,开发者可在工作站、数据中心或云端自由部署与定制。

英伟达同步公开了完整的训练与评估方案,涵盖预训练至对齐的全流程,并发布超过10万亿token的预训练及后训练数据集、21个强化学习训练环境以及评估方案。预训练阶段,模型在25万亿token上以NVFP4原生精度训练,从首次梯度更新起即在4位浮点运算约束下学习准确性,而非事后量化。

在生态层面,英伟达已与谷歌云Vertex AI、甲骨文云基础设施、戴尔技术、HPE等主流云服务商及硬件厂商达成合作,亚马逊AWS Bedrock及微软Azure的接入亦在筹备中。CodeRabbit、Factory、Greptile等软件开发智能体公司,以及生命科学机构Edison Scientific和Lila Sciences,也已宣布将该模型整合至其智能体工作流。

"Super+Nano"组合部署

英伟达在博客中还阐述了Nemotron 3系列的协同部署逻辑。去年12月推出的Nemotron 3模型Nano版本适合处理智能体工作流中针对性的单步任务,Nemotron 3 Super则专为需要深度规划与推理的复杂多步骤任务而设计。

以软件开发场景为例,英伟达建议:简单的合并请求可由Nano处理,涉及对代码库深度理解的复杂编码任务交由Super承担,而专家级任务则可进一步调用第三方专有模型。这一分层架构旨在帮助企业在成本与能力之间寻求最优平衡。

在具体应用场景上,英伟达博客举例称,软件开发智能体可将整个代码库一次性加载至上下文,实现端到端代码生成与调试;金融分析场景下可将数千页报告载入内存,省去跨长对话的重复推理;网络安全中的自主安全编排场景则可受益于高精度工具调用,避免在高风险环境中出现执行错误。

硬件护城河的模型层延伸

英伟达此次开放模型策略背后是一套清晰的商业逻辑。此前,英伟达主要通过向OpenAI、谷歌等模型提供商出售GPU积累AI领域主导地位。如今,若Nemotron成为企业智能体AI的主流基础模型,大规模运行该模型所需的GPU基础设施仍将倚重英伟达——在模型层推进开放的同时,巩固硬件层的需求锁定。

目前,Nemotron 3 Super已通过英伟达NIM微服务打包交付,支持从本地到云端的灵活部署。性能数据能否在生产级工作负载下得到验证,以及企业客户如何在开放灵活性与竞争对手专有模型能力之间做出取舍,将是检验这一战略成效的关键变量。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
空姐被逼下跪后续!欧某某的面相、T恤被网友吐槽:真是求锤得锤自作自受

空姐被逼下跪后续!欧某某的面相、T恤被网友吐槽:真是求锤得锤自作自受

王老师你还好吗
2026-10-05 14:48:03
遭遇争议判罚,16岁孙心然中网0-2高芙,看看提出的理由多么牵强

遭遇争议判罚,16岁孙心然中网0-2高芙,看看提出的理由多么牵强

真理是我亲戚
2026-10-06 00:26:04
新加坡牵头20国,在联合国大会抛出提案,想给中美AI“立规矩”?

新加坡牵头20国,在联合国大会抛出提案,想给中美AI“立规矩”?

策前论
2026-10-04 18:08:07
刚刚,杨兰兰案开庭!早前警告:不现身就逮捕!

刚刚,杨兰兰案开庭!早前警告:不现身就逮捕!

澳洲红领巾
2026-10-05 14:30:22
梅总误伤观众判负后续:扣除20万美元200积分 德约相信他并非故意

梅总误伤观众判负后续:扣除20万美元200积分 德约相信他并非故意

醉卧浮生
2026-10-05 19:31:46
苹果让友商怎么活!iPhone 18 Pro系列国内开售不到半月最新销量出炉:很快破250万台

苹果让友商怎么活!iPhone 18 Pro系列国内开售不到半月最新销量出炉:很快破250万台

快科技
2026-10-04 17:28:04
上海,男子在KTV饮酒后猝死,家人向同饮者和KTV索赔58万元

上海,男子在KTV饮酒后猝死,家人向同饮者和KTV索赔58万元

欢姐说法
2026-10-05 09:45:04
巨型“充电宝”驶进多地服务区!一辆卡车可同时为8辆车充电,费用参照充电桩价格

巨型“充电宝”驶进多地服务区!一辆卡车可同时为8辆车充电,费用参照充电桩价格

极目新闻
2026-10-05 19:01:10
莫斯科爆发大规模抗议!俄共领导人久加诺夫谴责虚假选举?

莫斯科爆发大规模抗议!俄共领导人久加诺夫谴责虚假选举?

项鹏飞
2026-10-05 20:05:23
再见了鹿晗,再见了朱亚文,再见了童谣,娱乐圈迎来疯狂大洗牌

再见了鹿晗,再见了朱亚文,再见了童谣,娱乐圈迎来疯狂大洗牌

麦芽是个小趴菜
2026-10-05 18:29:43
10月5日俄乌战争:普京罕见承认损失巨大

10月5日俄乌战争:普京罕见承认损失巨大

西楼饮月
2026-10-05 23:21:36
狂炸9小时!基辅全城瘫痪,乌过冬后路全断,普京:小丑留下了

狂炸9小时!基辅全城瘫痪,乌过冬后路全断,普京:小丑留下了

青青衫书生
2026-10-05 17:37:58
还剩下2000人,一个也不放过——以色列国防军击毙了10月7日入侵以色列的恐怖分子的三分之二

还剩下2000人,一个也不放过——以色列国防军击毙了10月7日入侵以色列的恐怖分子的三分之二

老王说正义
2026-10-06 00:03:11
湿疹折腾我三年,最后管用的竟是两块钱的 “笨办法”,终于不痒了

湿疹折腾我三年,最后管用的竟是两块钱的 “笨办法”,终于不痒了

健身狂人
2026-10-05 10:11:24
中国大满贯!爆大冷,国乒劲敌0-3出局,雨果剃光头,勒布伦逆转

中国大满贯!爆大冷,国乒劲敌0-3出局,雨果剃光头,勒布伦逆转

南海浪花
2026-10-05 06:20:07
婚变传闻迎来大结局,吴奇隆正式官宣息影,和刘诗诗走上了两条路

婚变传闻迎来大结局,吴奇隆正式官宣息影,和刘诗诗走上了两条路

少女的烦恼
2026-10-05 19:07:15
兵败如山倒,胡塞横扫塔伊兹通道

兵败如山倒,胡塞横扫塔伊兹通道

星火聊天下
2026-10-05 12:57:55
“家里钱多的鲍岩板,有个大库房专门装钱,警卫员偷他一千多万都没发现!”缅北电诈覆灭纪实第一集《利剑出鞘》,完整视频来了

“家里钱多的鲍岩板,有个大库房专门装钱,警卫员偷他一千多万都没发现!”缅北电诈覆灭纪实第一集《利剑出鞘》,完整视频来了

都市快报橙柿互动
2026-10-05 19:13:23
颐和园人员经费五年超15亿,人均绩效最高近14万元/年

颐和园人员经费五年超15亿,人均绩效最高近14万元/年

马小白
2026-10-05 11:05:59
河北邢台有村民占道晒玉米,混有多枚螺丝钉,村支书:已要求当事村民将钉子收拾撤除,派出所也对其训诫批评

河北邢台有村民占道晒玉米,混有多枚螺丝钉,村支书:已要求当事村民将钉子收拾撤除,派出所也对其训诫批评

农视网
2026-10-05 19:54:37
2026-10-06 05:20:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
153089文章数 2654929关注度
往期回顾 全部

科技要闻

2026年诺奖:三名科学家因光遗传学获奖

头条要闻

孙颖莎整顿乒乓球观赛礼仪:有闪光灯、呐喊等干扰

头条要闻

孙颖莎整顿乒乓球观赛礼仪:有闪光灯、呐喊等干扰

体育要闻

30天30队·热:扬尼斯、阿德巴约与克雷

娱乐要闻

蔡康永回应漏洞百出,太平轮旧事被扒

财经要闻

零跑声明切割!蔡康永两面人身份被抵制

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

教育
健康
旅游
手机
公开课

教育要闻

广州大学27届保研424人:网络空间安全22.43%,隔壁计算机3.91%

刷酸祛痘,为什么有人翻车?

旅游要闻

不止是美食打卡地,捞沙巷的前世今生,读懂老城的岁月变迁!

手机要闻

三星Galaxy S27 Ultra基础颜色选项曝光:黑色、蓝色、浅粉色、白色

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版