144颗GPU、18颗CPU、约10.1TB显存,集成在一个机柜内。
今天开幕的工博会上,天数智芯系统化超节点布局中的首款方案——天垓300 IXL144首次亮相。基于新一代旗舰通用GPU天垓300,这家国产GPU企业进一步将芯片能力延伸到整机柜。
![]()
IXL144是这一系列方案率先推出的第一款。天数智芯透露,面向不同算力规模、不同机房条件的完整产品布局已经形成,后续将逐一呈现。
这条信息,为理解此次亮相提供了更完整的视角:天数智芯正在从行业与市场的切实需求出发,将芯片、软件和交付能力组织成一系列算力方案。
大模型训练与在线推理有不同的资源需求,客户的业务规模、机房条件和建设节奏也各不相同。能否以合适的产品形态承接这些需求,决定着算力方案进入生产环境的速度,以及投入之后的使用效率。
01、天垓300效能超越Hopper 为整柜方案提供计算基础
理解IXL144,首先要看它的计算底座——今年7月发布的新一代旗舰通用GPU天垓300。天垓300在大模型关键业务负载中的效能,对标并超越以H100、H200为代表的Hopper架构主流方案,为整柜系统提供了高效能的计算基础。
![]()
根据天数智芯发布的测试数据,在64k上下文场景中,天垓300的Attention效能高于Hopper方案10%,MoE平均效能高于Hopper方案10%;在Qwen、GLM、Kimi、DeepSeek等主流模型测试中,首字延迟较Hopper架构方案降低约20%。
这些指标的业务含义很直接:更高的长上下文处理效率,有助于降低训练与推理的计算开销;MoE效能提升,有助于在相同响应体验下承载更多并发请求;更短的首字延迟,则改善智能体应用的交互体验。天垓300的效能优势,体现在客户实际运行的任务中。
在此基础上,IXL144通过整柜高带宽互联与资源调度,支持144颗GPU协同工作,减少多芯片运行中的通信等待。约10.1TB的整柜显存,也为模型权重、MoE专家和长上下文KV Cache提供了更大的容纳空间。
02、衔接现有机房 让部署节奏跟着业务走
客户对超节点的需求,既包括算力,也包括部署的可行性。
高密度整柜系统对供电、散热和承重提出要求。如果需要较大规模的机房改造,设备之外的建设投入和上线周期,都会影响采购与扩容决策。
天数智芯此次采用贴近常规机柜标准的单机柜形态。按照公司介绍,在供配电、承重与散热条件匹配时,IXL144可进入现有机房;结合灵活组网拓扑,客户能够一次规划、分步扩展。
![]()
这项设计回应的是一类现实需求:利用已有基础设施承接新增算力,让投入节奏与业务增长相匹配。对需求逐步扩大的客户,分步部署有助于减少初期闲置,并为后续扩容保留空间。
从市场角度看,适配客户的建设条件,有助于缩短算力从采购到使用的距离。它也说明,超节点产品的设计,需要同时考虑机柜内部的资源配置和机柜外部的部署环境。
03、兼容主流生态 通用GPU覆盖更多业务
算力上线的另一项成本,来自模型与代码迁移。
对已经形成开发流程的团队,能否复用已有模型、框架和经验,直接影响项目周期。IXL144基于自主通用GPU架构与自研软件栈,兼容CUDA生态,支持客户延续已有的软件资产,以降低迁移工作量和上线成本。
通用GPU还带来更广的任务覆盖面。同一计算底座能够承载大模型训练与推理,也可支撑金融估值、科学智能等任务,为存在多种计算需求的客户提供更多资源调配选择。
这里包含两层价值:生态兼容降低业务迁移的门槛,通用计算能力拓宽算力的使用范围。两者结合,才更有利于客户在较长的使用周期内持续利用同一套基础设施。
04、把系统效能落到每百万有效Token成本
进入大规模在线推理,客户关心的是持续运行的业务表现。
高峰期需要承载更多并发请求,同时维持响应体验;低谷期则需要通过资源调度和多业务承载,减少闲置。IXL144围绕这些运行特点,将吞吐、响应时延和资源利用率作为系统优化重点。
天数智芯给出了一个面向业务的测算结果:按公司测算,每百万有效Token的成本较国际主流方案可降低40%。这一结果对应公司的测算条件,实际部署还取决于模型、并发量、响应要求及利用率等因素。
单位有效Token成本,把计算效率、资源调度与投入成本集中到了客户最终获得的产出上。对于长期运行的推理业务,这个指标的改善,将直接影响应用扩大规模的经济性,也是衡量系统方案价值的一把实际标尺。
05、首款方案之后 系统布局从市场需求出发
IXL144的亮相,呈现了天数智芯超节点布局的第一步。后续一系列方案如何覆盖不同需求,同样值得关注。
天数智芯副总裁邹翾表示:“超节点不是单一产品,而是一项系统工程,最终比拼的是系统经济效能。”他同时透露,IXL144是公司整套系统化超节点方案中率先推出的第一个,面向不同算力规模、不同机房条件的完整产品布局已经形成,后续将逐一呈现。
从行业和市场需求看,大规模训练、高并发推理与多业务计算,对吞吐、响应时延和资源分配的要求各有侧重。客户也需要结合现有机房、业务增长与投入节奏,选择适合自身的方案。
这为系列化布局提供了明确的产品逻辑:围绕不同需求配置算力规模、部署形态与使用方式,让技术能力与客户实际条件相匹配。IXL144率先呈现的是144芯单柜方案,后续产品则将进一步展示天数智芯如何承接更广的市场需求。
这一布局也有持续积累的支撑。根据公司资料,天垓系列已实现万卡级规模部署,积累了系统交付与运维经验。从今年1月公布四代架构路线图,到7月WAIC发布天垓300,再到此次IXL144亮相,芯片研发、软件生态和系统产品正在逐步衔接。
天垓300的效能表现提供了计算基础,IXL144将这一基础落实为首款整柜方案。随着后续产品陆续呈现,天数智芯的超节点布局将更完整地接受市场检验:能否适配不同客户的真实需求,能否让算力更快上线,并在持续运行中产出更多业务价值。
声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.