北京
分享至
金融界 2025 年 5 月 5 日消息，国家知识产权局信息显示，长江水利委员会长江科学院;南水北调中线水源有限责任公司;长江空间信息技术工程有限公司（武汉）申请一项名为“基于张量并行处理的数字孪生水利大语言模型推理方法”的专利，公开号 CN119918680A，申请日期为 2024 年 12 月。
专利摘要显示，本发明提供了一种基于张量并行处理的数字孪生水利大语言模型推理方法。所述方法依次包括以下步骤：S1.梯度计算优化；S2.自注意力张量降维分块；S3.低维层归一化并行；S4.针对 S3 步骤中层归一化处理后的低维层进行层间总体弱扩展资源调度处理；S5.采用解码器中间张量结果转化为具体的预测值。本发明通过将大语言模型的参数和输入数据进行张量分割，并分配至多个计算节点并行处理，显著提升了大规模模型的推理效率。使用本发明能大幅提高了水利大语言模型的计算效率和实时性，通过并行化处理大规模模型的推理任务，各计算节点可以同时工作，显著降低了单个节点的计算负担，不仅能够处理更大规模的水利数据，还能保持高效和准确的风险预测能力。
本文源自：金融界
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
