北京
国家知识产权局信息显示，上海隆钧半导体有限公司申请一项名为“一种面向人工智能工作站的模型运行对象分层显存调度方法、系统、电子设备及存储介质”的专利，公开号CN122816880A，申请日期为2026年7月。
专利摘要显示，本发明涉及一种面向人工智能工作站的模型运行对象分层显存调度方法、系统、电子设备及存储介质。该方法获取工作站的GPU显存、CPU内存和本地高速存储器状态以及待运行大模型的运行特征，将权重、KV Cache、激活值、临时缓冲、请求队列和多模态中间结果划分为模型运行对象，计算访问热度值和迁移代价值，构建分层存储代价矩阵并生成显存分配策略；在本地推理过程中根据显存占用率、显存碎片率、推理延迟、缓存命中率和并发请求队列长度更新所述代价矩阵，执行迁移、异步预取、缓存复用、压缩或显存回收。通过上述方式，使高访问热度且延迟敏感的对象优先驻留GPU显存，低热度对象迁移至CPU内存或本地高速存储器，以降低本地推理过程中的显存溢出风险并改善硬件资源利用。
天眼查资料显示，上海隆钧半导体有限公司，成立于2026年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析，上海隆钧半导体有限公司。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
