北京
分享至
国家知识产权局信息显示，华中科技大学;中电海康集团有限公司申请一项名为“面向高性能分布式训练的选择性稀疏化张量融合方法”的专利，公开号CN121766395A，申请日期为2025年12月。
专利摘要显示，本申请属于神经网络分布式训练技术领域，具体公开了一种面向高性能分布式训练的选择性稀疏化张量融合方法。本申请首先获取所有张量的反向计算时间和稀疏化时间，以及所有融合缓冲区的同步通信时间；再选择部分张量参与GPU稀疏化，确保当前缓冲区中的张量反向计算时间与张量GPU稀疏化时间的总和不大于前一缓冲区的同步通信时间；若所选参与GPU稀疏化的张量进行CPU压缩的时长不大于目地缓冲区中所有张量反向计算时间之和，则将参与GPU稀疏化的张量卸载至CPU进行CPU稀疏化；最后将稀疏化后的张量和未稀疏化的张量融合至缓冲区进行同步通信。本申请方法较现有方法，降低了训练开销同时确保了训练效果。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
