国家知识产权局信息显示,华音信息科技有限公司申请一项名为“一种面向大模型应用的算力资源管理系统及方法”的专利,公开号CN122946136A,申请日期为2026年7月。
专利摘要显示,本申请提供了一种面向大模型应用的算力资源管理系统及方法。该方法包括:为大模型应用请求构建统一资源镜像UCRM,所述UCRM包含资源状态向量R=(T,K,M,C,P),其中T为Token状态、K为KVCache状态、M为显存状态、C为通信状态、P为并行策略状态;所述UCRM中的状态向量作为调度决策、显存分配、资源释放的统一控制依据;根据生命周期等级与页池阈值区间的对应关系,从对应的物理显存页池中分配非连续页并建立映射;采集实际运行结果,更新预测模型参数、动态修正权重系数并调整生命周期等级划分阈值。本申请降低了显存碎片率、降低了通信开销、提高了异构算力资源利用率及推理吞吐量。
天眼查资料显示,华音信息科技有限公司,成立于2016年,位于合肥市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本5000万人民币。通过天眼查大数据分析,华音信息科技有限公司共对外投资了1家企业,参与招投标项目78次,财产线索方面有商标信息1条,专利信息8条,此外企业还拥有行政许可7个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.