国家知识产权局信息显示,杭州比特云网络科技有限公司申请一项名为“基于多层叠加文件系统的大语言模型热管理方法及系统”的专利,公开号CN122988212A,申请日期为2026年9月。
专利摘要显示,本发明涉及大模型推理服务技术领域,尤其是基于多层叠加文件系统的大语言模型热管理方法及系统,所述方法包括如下步骤:获取大语言模型的版本权重增量,获得版本距离矩阵以构建模型层级指纹序列;确定所述大语言模型的层间配置关系,生成多层叠加文件系统;计算所述大语言模型的热迁移势能,计算最优挂载状态向量以建立动态挂载调度策略;获得显存状态参数和判定条件,对所述大语言模型进行决策协同调度得到资源协同状态;通过所述资源协同状态提取所述大语言模型的驻留特征和层间关联特征,以执行自适应运行调整得到模型热管理状态。本发明有效降低存储冗余和模型切换延迟,优化显存利用率,实现大语言模型推理的多版本热管理。
天眼查资料显示,杭州比特云网络科技有限公司,成立于2025年,位于杭州市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本113万人民币。通过天眼查大数据分析,杭州比特云网络科技有限公司共对外投资了2家企业。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.