辽宁
聊 AI 算力，大家早已习惯千卡、万卡这类计量单位。而央视在报道国内全新算力基础设施时，用了一句极具冲击力的描述：国产算力，“能装一个宇宙”。
10 月 18 日，央视《朝闻天下》“‘全’释硬科技” 专题，聚焦我国首个十万卡 AI 超集群。很多人第一眼会以为 “能装一个宇宙” 只是文学化的夸张修辞，但放到大模型训练场景里，这句话对应的是实打实的算力跃升。
放眼全球，当前用于前沿大模型训练的主流算力集群，普遍停留在万卡级别。十万卡，直接跨了一个数量级。 简单理解，算力集群规模，决定了大模型一次性能够承载的数据体量，以及可探索的模型参数上限。万卡集群能完成主流大模型训练，而十万卡集群，可以一次性吞吐海量多模态数据，同时并行测试多种模型架构，大幅压缩前沿大模型的研发周期。同样一个模型，万卡要数月完成的训练任务，十万卡集群可以大幅缩短迭代时间，也有能力去尝试参数量更大、能力更强的基础大模型。
很多人会有一个误区：搭建超大算力集群，核心就是采购足够多的 AI 加速卡。事实恰恰相反，硬件卡片只是基础，十万卡集群最大的难关，在于大规模多卡协同调度。
上万张卡同时并行运算，卡与卡之间的数据通信会产生巨大损耗。集群规模越大，通信延迟、数据同步、故障容错的难度成倍上涨。集群里任意一张卡出现异常，如果调度系统不够强，都有可能拖累整套训练任务中断。 能落地十万卡 AI 超集群，代表国内已经突破大规模算力组网、分布式调度、集群运维等整套工程化难题。不再只是单纯堆叠硬件，而是具备搭建、管理、稳定运行超大规模算力体系的全套能力，这也是央视将其定义为硬核科技成果的核心原因。
当然也要理性看待。十万卡集群落地，是国产算力基础设施里程碑式的突破，但这不代表算力所有瓶颈全部消失。除了集群组网，底层芯片持续迭代、软件栈优化、算力能耗控制、配套工具链完善，依旧还有很长的攻关之路。超大规模集群的落地，是给国产大模型研发，打开了更大的试验场。
十万卡 AI 超集群落地，你认为国产算力的规模瓶颈，算是被突破了吗？ # 国产算力 #AI 超算 #大模型
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
