来源:滚动播报
(来源:科技日报)
#DeepSeek发布智能体推理框架DualPath#【DeepSeek V4要来了?联合北大、清华团队发布智能体推理框架DualPath】#最新科技消息# DeepSeek联合北大、清华发布新论文,推出智能体推理框架DualPath。针对智能体大模型推理的存储带宽瓶颈,创新双路径KV-Cache加载机制,让数据读取与GPU计算并行,彻底解决传统架构算力空转问题。实测离线推理吞吐量最高提升1.87倍,在线Agent运行效率提升1.96倍,用纯软件优化实现性能翻倍,堪称AI基础设施的颠覆性突破,为智能体时代筑牢技术根基。(科技日报 李忠明 赵卫华)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.