国家知识产权局信息显示,京东科技信息技术有限公司申请一项名为“大模型推理加速方法及装置、计算机程序产品和电子设备”的专利,公开号CN122287887A,申请日期为2026年3月。
专利摘要显示,本公开涉及计算机技术领域,涉及一种大模型推理加速方法及装置、计算机程序产品和电子设备。该方法包括:获取当前轮解码的生成上下文信息和锚定token;在生成上下文信息中执行第一类型检索,若得到的第一检索结果非空,则根据第一检索结果确定锚点候选集;若第一检索结果为空,则对生成上下文信息执行第二类型检索,根据得到的第二检索结果确定锚点候选集,第二类型检索用于检索与锚定token符合预设表征相似度的锚点位置;根据锚点候选集确定目标锚点位置,基于目标锚点位置对应的缓存预测信息构建第一复用候选集,基于目标锚点位置对应的检索类型构建第二复用候选集,以基于第一复用候选集和第二复用候选集,确定本轮推理的生成结果。
天眼查资料显示,京东科技信息技术有限公司,成立于2017年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本30000万人民币。通过天眼查大数据分析,京东科技信息技术有限公司共对外投资了8家企业,参与招投标项目956次,财产线索方面有商标信息16条,专利信息2977条,此外企业还拥有行政许可6个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.