金融界2025年5月5日消息,国家知识产权局信息显示,摩尔线程智能科技(北京)股份有限公司申请一项名为“基于交错式流水线并行的负载调控方法及装置”的专利,公开号CN119902889A,申请日期为2024年12月。
专利摘要显示,本公开涉及一种基于交错式流水线并行的负载调控方法及装置。该方法包括:确定出训练目标模型过程中进行资源分配所需的分配参数,分配参数包括参与目标模型训练的计算节点的节点数量、流水线并行规模、针对目标模型各计算节点中需要执行的虚拟阶段的数量;根据分配参数和各计算节点的节点编号确定各计算节点针对各微批次的计算策略,计算策略包括所需执行计算的计算类型、预热计算数量;控制各计算节点按照对应的计算策略进行各微批次的计算,以进行针对目标模型的训练,直至训练完成。通过精细的负载均衡设计,不仅提高了分布式训练的效率,还带来了经济和环境上的可持续性益处,在商业和学术研究中都具有广泛的应用前景。
天眼查资料显示,摩尔线程智能科技(北京)股份有限公司,成立于2020年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本40002.8217万人民币。通过天眼查大数据分析,摩尔线程智能科技(北京)股份有限公司共对外投资了12家企业,参与招投标项目10次,财产线索方面有商标信息190条,专利信息809条,此外企业还拥有行政许可3个。
本文源自:金融界
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.