国产大模型预训练“换芯”，英伟达的不可替代性正在松动？

尽管英伟达高端AI芯片在国内市场的行情依然紧俏，但本土大模型玩家正在悄然推进一场“换芯”工程：将大模型预训练的算力底座，从英伟达的GPU逐步切换至国产AI芯片。

7月6日，美团正式开源其1.6万亿参数的用MoE（混合专家模型）架构大模型LongCat-2.0，该模型在5万余张国产算力芯片上耗时月余完成，成为业内首个基于国产算力完成训练的万亿级超大规模参数的模型。另据南都记者近日了解，使用摩尔线程2025年量产的S5000 GPU搭建的万卡集群，目前正为一家商业客户训练万亿参数模型。

市场调研机构Omdia高级首席分析师詹墨磊向南都记者表示，万卡集群训练大模型的案例，标志着国产AI芯片在训练侧完成了从“0到1”的跨越——万亿参数MoE模型全流程预训练在工程上已被证明可行。这一突破的本质不是芯片硬指标的赶超，而是 “模型架构-工程实现-芯片能力”三者数年来协同演化的系统级成果。

地方政府和通信运营商也加入到这场“换芯”工程。7月9日，粤港澳大湾区首个“国芯训国模”万卡智算集群在广东韶关数据中心集群发布，由中国电信负责运营。该集群总投资约55亿元，部署30个华为昇腾384超节点，内置11520张昇腾910C芯片。官方称其可承载万亿参数大模型全流程训练任务。

7月9日，粤港澳大湾区首个“国芯训国模”昇腾万卡智算集群上线发布活动在韶关粤港澳大湾区数据应用产业园举行。图：韶关发布

虽然许多国产AI芯片厂商宣称产品可用于大模型训练，此前的实际应用仍主要面向训练环节中用专有数据对模型微调或后训练，以及中小参数模型的预训练。大规模参数模型的预训练，往往被英伟达等国际厂商主导，这一领域也成了国产AI芯片迈入自主可控尚待攻克的“深水区”。

作为较早拥抱华为昇腾等国产智算方案的科技公司，科大讯飞接受南都记者采访时指出，英伟达的优势不仅在于芯片本身，更包括成熟的软件生态、训练框架和工具链。而使用国产AI算力集群训练大模型，难点不只是算力够不够，还考验整套系统能不能长期、稳定、高效地支撑训练。

科大讯飞已使用国产AI芯片集群，训练了旗下多款星火系列模型。该公司表示，从实践看，国产算力训练大模型并非不可行，但不能简单理解为“堆卡”即可，而是需要模型厂商和芯片公司在模型结构、训练算法、算子优化、集群调度和故障恢复等方面的协同配合。当前，国产算力大模型训练从“能训”走向“训好”，仍需要持续的工程优化和生态完善。

两种拥抱姿态：全盘重仓与零星试水

早在2023年，美团和科大讯飞便开始了对国产AI训练算力的尝试。

这一年起，美团与国产算力厂商共同推进“模芯协同”研发，从早期的小规模验证，逐步过渡到如今的超大规模训练。

此次发布的LongCat-2.0模型，其完整训练流程全部使用AI ASIC芯片。不同于英伟达所使用的GPGPU（通用GPU）架构，ASIC架构的芯片是应特定用户要求和特定电子系统的需要而设计、制造的一种专用集成电路，代表性厂商包括华为昇腾、寒武纪、昆仑芯、燧原科技等。

美团未明确训练算力的厂商身份，但其技术分享中确认使用了华为集合通信库（HCCL）来提高训练稳定性。HCCL是基于华为昇腾AI处理器的高性能集合通信库，提供单机多卡以及多机多卡间的集合通信能力。

美团在一篇博客文章中进一步介绍，其训练所使用的AI芯片单卡显存远小于英伟达H800芯片的80GB。而在昇腾的现行产品体系中，符合该描述的仅有昇腾910B芯片，其显存容量为64GB，下一代的910C显存为128GB。

科大讯飞涉足国产AI算力，亦从昇腾910B芯片起步。2023年10月，科大讯飞使用这款芯片，上线了国内首个万卡国产智算平台“飞星一号”。科大讯飞曾介绍，该算力集群的大模型训练任务性能，达到同规模英伟达A800集群的90%以上。为扩充算力规模，2025年9月，科大讯飞宣布拟将定向增发募资中的24亿元，用于租赁国产算力。

“如果核心训练、推理和迭代能力长期依赖单一路径，产业发展会受到外部算力供给、成本波动和生态限制的影响。”科大讯飞称，这是其选择走自主可控国产化路线的主要考量。

依托国产算力集群，科大讯飞先后发布了多款旗舰级星火大模型。今年4月，该公司推出300亿总参数的MOE模型星火X2-Flash，重点提升智能体、代码等能力，该模型由昇腾910B集群训练完成。

科大讯飞向记者透露，其国产化经验也在向更多国产AI芯片迁移。除昇腾平台外，科大讯飞已成功适配并优化寒武纪MLU590、中科海光“深算三号”BW1000等国产AI芯片上的大模型训练效率。

与美团、科大讯飞重仓国产智算生态相比，国内其他头部科技大厂和大模型企业的“换芯”节奏较为谨慎，多表现为在公司非旗舰级大模型版本上进行零星试水。

百度于5月13日介绍，公司使用控股子公司昆仑芯的算力集群，完成对文心5.1重要版本的训练，但未具体指出该版本的型号、参数规模等信息。此前2025年11月，百度智能云AI计算首席科学家王雁鹏在一场论坛上透露，包括视频生成模型“百度蒸汽机”在内的三款多模态模型，是在5000卡或6000卡的昆仑芯集群上完成训练。

暂未研发出自研芯片的智谱，则选择与华为昇腾合作验证模型预训练的可行性。今年1月，智谱发布图像生成模型GLM-Image。从早期的数据预处理到最终的大规模预训练，该模型构建的全流程均在昇腾Atlas 800T A2训练服务器上完成。该服务器设备搭载昇腾910B芯片。

“换芯”的瓶颈与代价

衡量一款AI芯片能否胜任大模型预训练，算力是首要门槛。即便是华为昇腾最新款的950DT芯片，其FP8（8位浮点数格式）下的算力为1034 TFLOPS（约1 PFLOPS，即每秒1千万亿次浮点运算）。作为相比，英伟达H100芯片在相同精度下的算力为1979 TFLOPS。

为弥补单卡算力的不足，国内芯片厂商纷纷推出超节点方案，通过高速互连技术，将成百上千张AI芯片耦合为一个超级计算节点。华为在2025年商用的384超节点（包含384张910C芯片），以及即将上市的950超节点（最多支持8192张950DT芯片），代表了国产芯片公司在该领域的前沿落地。

华为昇腾950超节点真机将在2026世界人工智能大会期间展出。

计算性能差距之外，“换芯”预训练还面临芯片显存容量和带宽的制约。科大讯飞告诉记者，显存不足会限制模型规模和上下文长度，带宽不足则造成数据传输瓶颈。

2026年之前上市出货的主流国产AI芯片，多数产品的显存容量仅为96GB，有的只有64GB。相比之下，能否进入中国市场仍未明朗的英伟达H200芯片，搭载141GB显存的HBM3e（第五代高带宽内存），显存带宽达4.8TB/s。美团在一篇关于LongCat-2.0模型的博客中写道，由于所用的AI芯片显存显著小于H800的80GB，显存成为大规模训练的主要瓶颈，于是训练过程中必须采取一些显存优化策略。

不过，大容量显存已基本成为各芯片公司最新一代产品的标配。例如，昇腾950DT芯片提供最高144GB显存容量与4TB/s的带宽，《昇腾950 NPU架构白皮书》中将其描述为“专为大模型全生命周期打造”，覆盖预训练、后训练及推理。此外，阿里平头哥在5月发布的真武M890，以及沐曦今年的主力产品曦云C600，均配备了144GB显存。

然而，在大规模的智算集群上训练大模型，仅仅有计算能力和大显存并不足够。科大讯飞指出，大模型训练对芯片、服务器、网络、通信、算子、训练框架、集群调度、故障恢复都有很高要求。尤其在万卡级集群上，任何一个环节效率不够或稳定性不足，都会影响整体训练效果。

科大讯飞进一步强调，模型规模越大，对智算集群的要求也越高。除了更高的显存和带宽，还需更强的并行训练能力，实现训练框架、算子和集群通信的高度协同。尤其在MoE、长上下文、智能体强化学习等场景下，跨卡、跨节点通信更频繁，通信效率不足将造成大量的算力等待。此外，模型越大、训练周期越长，中途故障概率越高，算力集群必须具备快速故障定位、断点续训（从训练任务中断处继续训练）和故障节点恢复能力。

王雁鹏此前表示，硬件稳定性问题不可避免，因为晶体管的集成度高、功耗高，随之带来故障率的攀升。即便是英伟达的GPU，也存在故障的可能。由于国产芯片的质量控制能力尚无法与英伟达匹敌，故障率在国产AI芯片上被放大。

这些瓶颈最终可能转化为商业层面的代价，最直接的体现是拖慢模型发布的进度。科大讯飞董事长刘庆峰在2025年接受南都等媒体采访时曾透露，为了在国产算力平台上训练深度推理模型讯飞星火X1，公司不得不花费额外两个月时间来开展适配工作。他说，国产AI芯片的使用成本更高，训练所消耗的时间也更长。

面对国产AI算力生态的瓶颈，尽管已有大模型公司基于国产芯片完成大规模参数模型的预训练，但詹墨磊认为，目前大模型预训练尚不具备全面“去英伟达化”的资本。国产方案的成功，高度依赖对MoE架构的主动适配和大量定制工程投入，并非对现有英伟达CUDA（并行计算平台）生态的无缝承接。

“国芯国模”抱团突围成行业基调

国产模型公司与芯片厂商在过去数月间互动频繁，几乎成为常态。每逢一款头部模型“上新”，主流AI芯片公司在第一时间宣布适配，实现对模型的完全兼容和支持正常推理运行。

中国信息通信研究院副院长魏亮对此认为，这反映出前沿模型的创新突破与基础软硬件间的强耦合依赖关系愈发明显，协同更加紧密。模型与硬件自诞生之初便“双向奔赴”，使国产软硬件和前沿模型的关系从此前的被动适配，逐渐走向主动协同、同步进化以及模型发布当日的“Day0原生适配”。

不过，现阶段的“国芯国模”抱团适配，很大程度上局限于推理环节，解决的是模型部署运行问题，而在预训练阶段的协同成果相对有限。

科大讯飞在4月公布的2025年年报中表示，虽然已有多家厂商在国产算力上完成大模型适配，但实际上，在国产算力上做推理和做训练在完全不同层次的技术难度：将训练好的模型部署在国产芯片上运行推理，技术上已比较成熟；但要在国产算力上完成大模型训练，尤其是智能体任务所依赖的高效模型结构、超长上下文、智能体强化学习等前沿技术的训练，工程实现面临很大挑战。

预训练层面的“模芯协同”，“不只是简单适配硬件。”科大讯飞对记者举例说，在模型结构协同层面，需根据芯片架构特点，设计更适配的模型结构，例如MoE架构、Attention注意力机制、长上下文训练方式等；在算子协同层面，需围绕一些关键环节进行优化，提升计算和访存效率；而在通信机制协同上，则需针对大规模集群通信瓶颈，优化通信与计算重叠，减少因通信等待而造成的性能损耗。

这种深度协同的必要性，也使得科大讯飞将芯片厂商是否愿意与模型团队共同优化模型结构、算子、分布式训练策略（使用多台机器共同完成训练任务）和工程系统，列为选择某款国产AI芯片或算力平台的重要考量因素之一。

“模芯协同”催生了模型公司和芯片公司的紧密互动。多年以来，科大讯飞和华为昇腾之间深度绑定。科大讯飞在其2025年年报中披露，已与华为开展深度联合，在最新款的昇腾950平台上联合攻坚高效模型结构、混合Attention注意力机制、智能体强化学习等关键技术。公司计划于2026年10月，在昇腾950平台上发布对标业界最先进主流模型的旗舰大模型。

燧原科技亦在IPO招股材料中披露，基于第四代训推一体产品L600，其已与客户联合完成了多个千问系列模型、中小参数腾讯混元模型等的预训练工作，并正在推进基于大参数系列模型的预训练工作。

“国内大模型的发展，某种意义上牵动着国内芯片的设计发展。”2025年7月一场涉及“国芯国模”话题的论坛上，壁仞科技创始人、董事长兼CEO张文提到，芯片从设计到量产上市的周期较长，所以一定要有前瞻性，才能把芯片设计好。这种前瞻性建立在对大模型公司需求的把握之上。

在科大讯飞看来，大模型训练会把芯片和系统的真实问题暴露出来，因此能反向推动AI芯片和软件生态升级。

具体而言，长上下文能力、智能体、全模态模型等新趋势，对显存、带宽、通信和访存效率提出更高要求，可以反向推动芯片在存储、带宽、互联和调度方面迭代；大模型训练中频繁使用到一些关键算子，能帮助芯片厂商发现算子性能不足等问题；训练过程中暴露的问题，还会推动芯片厂商的编译器、通信库、调试工具、性能分析工具等软件栈和工具链的不断成熟；而在万卡级模型训练场景下，软硬件故障和节点一致性问题被放大，从而倒逼芯片厂商集群管理、故障恢复和稳定性能力的建设。

“大模型公司与芯片公司的协同，不只是模型适配芯片，也是模型需求反哺芯片演进。”科大讯飞表示。

采写：南都N视频记者 杨柳