金融界 2024 年 11 月 30 日消息,国家知识产权局信息显示,上海燧原科技股份有限公司申请一项名为“分布式系统的代价评估方法、装置、设备、介质及产品”的专利,公开号 CN 119046124 A,申请日期为 2024 年 11 月。
专利摘要显示,本发明公开了一种分布式系统的代价评估方法、装置、设备、介质及产品。方法包括:获取目标大模型的原始计算图和将目标大模型部署在目标分布式集群时使用的目标分布式并行方案;按照目标分布式并行方案对原始计算图进行切分得到单设备计算图;根据单设备计算图中算子的标注信息和目标分布式集群的架构信息,确定单卡计算图中算子的算子级代价;根据算子级代价计算设备级代价并将各设备级代价按照各分布式策略进行组合,得到集群级代价;根据算子级、设备级和集群级代价,获取按照目标分布式并行方案将目标大模型部署在目标分布式集群时的系统性能分析结果。本发明实施例的技术方案可以高效、准确的评估出分布式建模过程中的系统性能分析结果。
本文源自:金融界
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.