金融界2025年6月6日消息,国家知识产权局信息显示,昆仑芯(北京)科技有限公司申请一项名为“大语言模型的分布式执行方法、设备、介质及分布式集群”的专利,公开号CN120104318A,申请日期为2025年02月。
专利摘要显示,本公开提供了一种大语言模型的分布式执行方法、设备、介质及分布式集群,涉及人工智能领域,尤其涉及芯片领域。具体实现方案为:在与分布式集群中其他设备共同针对大语言模型执行张量并行计算的过程中,如果执行至计算通信组合任务,则获取计算通信组合任务的类型;将输入数据切分为与类型匹配的多个数据分块;根据各数据分块,并行执行计算通信组合任务中的矩阵乘法任务和设备间通信任务。通过将矩阵乘法任务和数据通信任务涉及的数据切分成多个数据分块,可以将完成计算的部分数据分块提前进行通信传输,并与下一数据分块的矩阵乘法计算并行处理,从而掩盖通信传输的时间开销,缩短整体计算时间,大幅提升模型训练或推理过程中的吞吐量和效率。
天眼查资料显示,昆仑芯(北京)科技有限公司,成立于2011年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1874.438777万人民币。通过天眼查大数据分析,昆仑芯(北京)科技有限公司共对外投资了5家企业,参与招投标项目12次,财产线索方面有商标信息175条,专利信息358条,此外企业还拥有行政许可3个。
本文源自:金融界
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.