DeepSeek极限吞吐超8000 tokens/s 异构智算产业生态联盟走进庆阳

3月27日消息，异构智算产业生态联盟走进燧弘华创庆阳绿色智算中心，共同见证了DeepSeek大模型落地新突破，3000并发下总吞吐量超8000 tokens/s，持续提升DeepSeek满血版用户体验。

燧弘华创庆阳绿色智算中心携同联想万全异构智算平台突破算力瓶颈，通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等诸多领先创新方式，将单机服务器运行大模型的性能创新高，3000并发下总吞吐量超8000 tokens/s，持续提升DeepSeek满血版用户体验。

全国政协委员，中科院计算所研究员张云泉表示，“DeepSeek的诞生标志着在AI领域出现了新的技术突破，尤其是在低算力训练和高效率模型优化方面，这将推动AI技术向更高效和普惠的方向发展。”他认为这一突破，促使全球市场重新评估大模型发展的成本曲线，推动国内芯片、云计算等基础设施加速升级。

DeepSeek掀起的AI应用革命与算力瓶颈突破，也让作为“中国算谷”的庆阳，受到了前所未有的关注。如今，庆阳正以坚实的算力产业为数字经济发展筑牢“智算”底座。其中，燧弘华创打造的庆阳绿色智算中心，是众多数据中心中靓丽的一道风景线。

作为首家入驻庆阳的数据中心企业，燧弘华创不仅承载起西部算力资源优化配置的重任，更助力庆阳实现算力规模与产业生态的持续跃升。联想问天 WA5480 G3服务器搭载了第四代英特尔®至强®可扩展处理器，其拥有强大的计算能力，内置了众多加速器，是智算中心建设的首选。

同时，联想搭建了万全异构智算平台，为智算中心输出融合、稳定和高效的算力，加速各行业实现数字化、智能化转型升级。

会上，联想中国基础设施业务群高级产品经理郭晋兵现场演示了联想万全异构智算平台如何加速DeepSeek大模型落地。联想及其生态伙伴在庆阳搭建的联想万全异构智算平台，在管理142节点千卡进行DeepSeek后训练时，以调优技术使得训练MFU高达60%以上，在训练期间人为加入多类故障后进行故障断点续训的时间小于1分钟。郭晋兵同时展示了通过联想万全异构智算平台的内核态虚拟化技术，以单GPU卡运行100个模型任务的实例。此外，郭晋兵在现场演示了DeepSeek 671B FP8单机8卡性能，极限总吞吐高达8000+ tokens/s！通过现场演示，联想万全异构智算平台已验证其在推理加速、训练优化、断点续训、内核级虚拟化等大模型推理优化场景具有明显优势。（静静）

本文来自网易科技报道，更多资讯和深度内容，关注我们。