国家知识产权局信息显示,深圳市广和通无线股份有限公司申请一项名为“大模型异构推理引擎方法、装置、设备及存储介质”的专利,公开号CN121457605A,申请日期为2025年9月。
专利摘要显示,本申请涉及大模型异构推理引擎方法、装置、设备及存储介质。方法包括:获取主机端对神经网络模型进行模型转换所生成的端侧模型;在设备端根据端侧模型构建计算图;接收模型推理任务请求并获取任务类型,对计算图进行解析,并基于任务类型对解析后的计算图的各节点进行差异化任务分配,各节点与执行不同任务的异构计算单元绑定;根据任务分配结果,通过所分配节点绑定的异构计算单元执行模型推理任务。本申请将各节点与执行不同任务的异构计算单元进行绑定,根据任务类型对计算图中的各节点进行差异化任务分配,有利于在执行端侧大模型推理任务时最大化各异构计算单元的算力利用率,保证推理任务执行时的高吞吐、低时延需求,提高执行效率。
天眼查资料显示,深圳市广和通无线股份有限公司,成立于1999年,位于深圳市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本90053.3742万人民币。通过天眼查大数据分析,深圳市广和通无线股份有限公司共对外投资了12家企业,参与招投标项目122次,财产线索方面有商标信息23条,专利信息723条,此外企业还拥有行政许可26个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.