金融界2025年6月17日消息,国家知识产权局信息显示,清华大学;国网福建省电力有限公司信息通信分公司申请一项名为“大模型训练场景下基于异步存储检查点的容错方法及装置”的专利,公开号CN120162188A,申请日期为2025年03月。
专利摘要显示,本申请涉及大模型处理技术领域,特别涉及一种大模型训练场景下基于异步存储检查点的容错方法及装置,其中,方法包括:获取异步存储检查点的状态数据;利用深度学习框架的序列化工具将状态数据转换为序列化数据;将序列化数据通过异步I/O操作写入到持久化存储,利用持久化存储的序列化数据恢复大模型训练场景下的训练任务,其中,持久化存储的序列化数据允许在后台执行数据写入操作。由此,解决了相关技术中在大模型训练数据存储过程中,频繁的存储操作导致存储开销大,且若硬件发生故障则影响整体的训练进度,导致训练效率较低等问题。
本文源自:金融界
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.