北京
分享至
金融界2025年7月10日消息，国家知识产权局信息显示，上海芷锐电子科技有限公司申请一项名为“键值缓存数据的调度方法、大模型推理方法及装置”的专利，公开号CN120276667A，申请日期为2025年02月。
专利摘要显示，本申请提供一种键值缓存数据的调度方法、大模型推理方法及装置，涉及人工智能技术领域。该方法包括：利用预测模型预测大模型推理后续token所需的目标键值缓存数据；后续token是指大模型还未推理的token；判断是否需要对所述目标键值缓存数据进行调度；若需要调度，则生成调度策略；根据调度策略从第一存储空间获取目标键值缓存数据，并将目标键值缓存数据存储至第二存储空间；其中，目标键值缓存数据用于使大模型推理后续token。
天眼查资料显示，上海芷锐电子科技有限公司，成立于2018年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本2000万人民币。通过天眼查大数据分析，上海芷锐电子科技有限公司共对外投资了2家企业，参与招投标项目3次，专利信息35条，此外企业还拥有行政许可2个。
本文源自：金融界
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
