北京
分享至
近日，联想集团宣布基于联想问天WA7780 G3服务器，在行业内首次实现单机部署DeepSeek-R1/V3 671B大模型，以低于行业公认1TGB显存（实际768GB）承载多并发用户流畅体验，可以满足千人企业的使用需求。
联想此次突破为企业提供科学选型指南。针对行业公认1TB显存是千亿参数大模型运行基线的背景下，联想研发团队通过专家并行优化、智能访存架构升级及PCIe 5.0全互联架构创新，大幅提升了显存利用率，从而实现了性能的提升。
据了解，联想WA7780 G3服务器在2月初已实现单机768GB GPU显存条件下部署DeepSeek 671B R1和V3满血模型，并能满足中小企业的并发需求。进而通过联想万全异构智算平台的访存优化，专家并行调用策略等技术优化手段，实现了单机一个月内并发能力增长10倍， 同时还提升了每路用户的TPOT、TTFT等综合性能体验
需要特别指出的是，高吞吐量和高并发量也并不等同于用户体验好。若服务器GPU卡配置不高，局部通信瓶颈可能引发响应延迟使体验降级，这正是联想着力解决的难点之一。
毫无疑问，联想技术突破将有效破除大模型落地瓶颈，显著加速大模型在企业的落地进程。未来，联想基础设施业务群与联想研究院ICI实验室将继续携手合作，依托联想万全异构智算平台对DeepSeek平台从AI预训练、后训练到推理的全流程进行持续优化，为客户奉献出性能更佳、性价比更高的产品和解决方案，以加速DeepSeek大模型的落地。（静静）
本文来自网易科技报道，更多资讯和深度内容，关注我们。
本文来源：网易科技报道
责任编辑：
余嘉琪_NBJS28262
