北京
IT时代网8月31日消息，海光信息昨日宣布，旗下深算 DCU 已率先完成腾讯新一代旗舰大模型 Hy4 preview 的 Day 0 适配，模型发布当天即实现推理全流程支持。这是继腾讯 Hy3、Hy-MT2 之后，海光 DCU 与腾讯混元系列模型的又一次深度协同。
本次适配围绕 Hy4 preview 的模型结构展开。该模型总参数量 7700 亿，激活参数仅 490 亿，采用超大规模 MoE（混合专家）架构，并引入 Gated MLA、iHC 与 learnable sink 等新型结构，对推理适配提出更高要求。
海光信息凭借 DTK（DCU Toolkit）、DAS（DCU Acceleration Stack）等自研软件栈优势，针对 Hy4 preview 的稀疏注意力计算特点，在 vLLM 推理框架中接入 FlashMLA 算子能力，覆盖了 Attention Sink、KV Cache 及并行切分等关键环节。适配还实现了专用的推理内容解析与工具调用解析，支持深度推理与直接回答两种模式，兼容流式与非流式处理及多工具并行调用，为模型在海光 DCU 平台上的部署与智能体应用打下基础。
注：本文中包含AI辅助创作的内容。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
