国家知识产权局信息显示,睿联智算(上海)科技有限责任公司申请一项名为“一种大模型分布式训练的迭代级点对点弹性恢复系统”的专利,公开号CN123030960A,申请日期为2026年9月。
专利摘要显示,本发明提出了一种大模型分布式训练的迭代级点对点弹性恢复系统,属于大模型分布式训练领域。系统包括协调服务、管理器和副本;协调服务把分散在各进程的局部状态收敛为全局一致决策;管理器是每个进程的本地代理,位于训练流程与协调服务之间;副本是最小的训练单元,每个副本拥有独立进程组和独立通信存储;训练启动时,各副本独立启动并向协调服务注册;正常阶段,副本内沿用Megatron原生同步路径完成副本内规约,副本间在管理器协调下完成跨副本规约;故障发生后,协调服务依据心跳超时重算仲裁,健康副本继续推进训练;故障副本恢复后再通过状态直传追平参数并重新加入。本发明显著降低了恢复延迟和训练进度损失。
天眼查资料显示,睿联智算(上海)科技有限责任公司,成立于2026年,位于上海市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本238.095237万人民币。通过天眼查大数据分析,睿联智算(上海)科技有限责任公司共对外投资了1家企业,专利信息1条。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.