国家知识产权局信息显示,华为技术有限公司、中国科学技术大学申请一项名为“一种数据处理方法及相关装置”的专利,公开号CN122988143A,申请日期为2025年4月。
专利摘要显示,本申请实施例提供一种数据处理方法及相关装置,用于提高选取关键的目标键向量和目标值向量的效率,从而提高模型的推理性能,该方法包括:对第一查询向量进行离散映射,得到第一查询向量的哈希码;基于第一查询向量的哈希码和N个第一键向量的哈希码,确定与第一查询向量最相似的K个第一键向量对应的K个第一位置索引;基于K个第一位置索引,得到K个目标键向量和K个目标值向量。其中,第一查询向量为第N个推理步骤对应的第一词元的查询向量,N个第一键向量为前N个推理步骤对应的N个第一词元的键向量,K个第一位置索引用于指示K个目标键向量和K个目标值向量的存储位置,K个目标键向量和K个目标值向量用于生成第二词元。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.