北京
金融界 2025 年 7 月 8 日消息，国家知识产权局信息显示，本溪钢铁（集团）信息自动化有限责任公司申请一项名为“基于动态资源调度的大语言模型分布式训练方法及系统”的专利，公开号 CN120278283A，申请日期为 2025 年 06 月。
专利摘要显示，本发明提供一种基于动态资源调度的大语言模型分布式训练方法及系统，通过以周期性时间间隔采集各计算节点的资源状态数据，从而在当前训练批次，将大语言模型的训练任务划分为多类子任务，并基于各计算节点的资源状态数据以及各类子任务的任务描述数据，利用强化学习策略将各类子任务以最优比例分配至最优的计算节点；此外，采用梯度压缩算法对计算节点上产生的梯度数据进行压缩，并结合所述计算节点的当前网络带宽利用率动态调整所述梯度数据的压缩率；参数服务器进而基于参数同步间隔对不同计算节点压缩后的梯度数据进行加权融合，基于融合结果更新全局模型参数，并将全局模型参数广播至各个计算节点，能够显著提升大语言模型的训练效率。
天眼查资料显示，本溪钢铁（集团）信息自动化有限责任公司，成立于2003年，位于本溪市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本5000万人民币。通过天眼查大数据分析，本溪钢铁（集团）信息自动化有限责任公司参与招投标项目1641次，专利信息170条，此外企业还拥有行政许可1个。
本文源自：金融界
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
