国家知识产权局信息显示,华为技术有限公司申请一项名为“一种推理方法及装置”的专利,公开号CN122472185A,申请日期为2025年1月。
专利摘要显示,公开了一种推理方法及装置,涉及计算机领域,以实现在缩短推理首字时延的前提下,提升推理系统的吞吐,以及保证推理结果的高质。该方法包括:向云服务器发送输入内容对应的提示词;然后,接收云服务器下发的对提示词执行推理得到的前X个词元、以及中间结果。该中间结果包括下述一项或多项:云服务器用于获取首字的全量推理输入的词元的第一ID序列、云服务器推理得到前X个词元中前Y个词元的KV缓存。之后,输出该前X个词元;并基于获取的中间结果进行推理,以得到提示词对应答案中剩余的词元并输出。
天眼查资料显示,华为技术有限公司,成立于1987年,位于深圳市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本4114113.182万人民币。通过天眼查大数据分析,华为技术有限公司共对外投资了51家企业,参与招投标项目43888次,财产线索方面有商标信息14524条,专利信息128058条,此外企业还拥有行政许可1730个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.