北京
国家知识产权局信息显示，北森云计算有限公司申请一项名为“基于分层异构压缩架构的KV缓存压缩方法及系统”的专利，公开号CN122925267A，申请日期为2026年8月。
专利摘要显示，本发明提供了一种基于分层异构压缩架构的KV缓存压缩方法及系统，涉及大语言模型推理优化技术领域。本发明通过将Transformer模型的不同层级划分为浅层、中间层和深层，并为各层级分别配置与其功能相匹配的局部性保持策略、语义聚类策略和概念抽象策略，在满足压缩触发条件时对各层级KV缓存进行差异化压缩，同时通过跨层协调机制在各层级之间传递压缩过程中识别的重要性信息。相较于现有统一压缩方法，本发明能够根据不同层级的特性进行针对性压缩，浅层得以保留局部语法细节，中间层有效保留语义结构信息，深层聚焦全局概念，并且，跨层协调机制可以确保信息流的连贯性，从而在保证模型性能的同时，显著降低了KV缓存内存占用。
天眼查资料显示，北森云计算有限公司，成立于2019年，位于成都市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本26000万美元。通过天眼查大数据分析，北森云计算有限公司共对外投资了3家企业，参与招投标项目697次，财产线索方面有商标信息16条，专利信息92条，此外企业还拥有行政许可10个。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
