北京商报讯(记者 陶凤 王天逸)6月17日,壁仞科技、摩尔线程两家国产GPU厂商相继宣布,在智谱新一代开源旗舰模型GLM-5.2发布后,公司产品完成"Day-0"适配。
壁仞科技方面称,壁砺166系列基于vLLM推理框架完成模型适配与调优,向开发者提供快速部署方案及长程任务支持;摩尔线程在AI训推一体全功能GPU智算卡MTT S5000上完成极速适配,基于SGLang-MUSA推理引擎及TileLang-MUSA算子编程语言,优化长输入Prefill阶段高吞吐性能,实现高效、高精度推理。
据称,此次适配彰显了国产GPU算力基础设施对前沿SOTA模型的快速响应能力。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.