5月21日,华为公司正式发布AI DC数据基础设施全栈方案,涵盖OceanStor Pacific全闪分布式存储、上下文记忆存储CMS、AI数据平台、华为ModelEngine Nexent智能体平台、端到端数据保护方案等。其中,华为首个支持异构算力的上下文记忆存储CMS,支持KV语义直通或采用专用DPU进行语义卸载,可扩展为PB级共享KV Cache池,降低推理首Token时延90%。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.