北京
分享至
【11月5日华为宣布AI推理加速关键技术UCM开源】11月5日，华为数据存储宣布，针对AI推理加速的关键技术——UCM推理记忆数据管理正式开源。华为介绍，UCM目前具备稀疏注意力、前缀缓存、预填充卸载、异构PD解耦四大能力。该技术能实现首Token时延最高降低90%，系统吞吐最大提升22倍，还可达到10倍级上下文窗口扩展。
本文由 AI 算法生成，仅作参考，不涉投资建议，使用风险自担
本文来自和讯财经，更多精彩资讯请下载“和讯财经”APP
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
