国家知识产权局信息显示,北京泰尔英福科技有限公司、同济大学申请一项名为“基于网状流水线的神经网络分布式训练方法、系统及装置”的专利,公开号CN121212199A,申请日期为2025年11月。
专利摘要显示,本发明涉及神经网络模型训练技术领域,提供一种基于网状流水线的神经网络分布式训练方法、系统及装置。包括以下步骤:对待训练的神经网络模型和训练设备进行初始化设置,得到初始化结果;根据所述初始化结果,进行网状流水线训练,更新ZeRO1参数,判断当前步是否达到停止步数,若达到,则输出训练完成的神经网络参数。本发明通过一个设计精巧的三阶段流程,成功地将应对网络瓶颈的“通信隐藏”调度和应对设备异构的“网状”通信拓扑无缝结合,最终实现了一个既能充分利用所有硬件资源,又能高效运行在复杂网络环境下的高级分布式训练框架。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.