国家知识产权局信息显示,上海旺脉信息科技集团有限公司申请一项名为“一种公有云多租户AI推理任务动态调度方法”的专利,公开号CN122985433A,申请日期为2026年9月。
专利摘要显示,本发明公开了一种公有云多租户AI推理任务动态调度方法,涉及计算机资源调度及云计算资源管理技术领域。读取GPU节点显存状态、模型服务实例运行状态、推理任务运行阶段、KV缓存状态及节点间数据传输状态;在预填充任务进入下一次调度可完成输入处理时,保留其解码阶段使用的显存和KV缓存资源,并据此确定新任务接入节点;任务进入解码阶段前重新核对节点资源,可分配显存不足以满足首次解码运行空间时确定目标节点;将已形成及当前运行片段新增的KV缓存和当前输出位置传送至目标模型服务实例,接收核对后切换运行位置,待目标节点状态和模型服务运行状态更新,且任务、KV缓存归属及运行位置一致后释放源节点对应资源。
天眼查资料显示,上海旺脉信息科技集团有限公司,成立于2017年,位于上海市,是一家以从事专业技术服务业为主的企业。企业注册资本500万人民币。通过天眼查大数据分析,上海旺脉信息科技集团有限公司共对外投资了1家企业,参与招投标项目3次,财产线索方面有商标信息8条,专利信息49条,此外企业还拥有行政许可4个。
上海孛樊信息科技有限公司,成立于2018年,位于上海市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本500万人民币。通过天眼查大数据分析,上海孛樊信息科技有限公司参与招投标项目1次,专利信息5条,此外企业还拥有行政许可2个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.