金融界2025年5月30日消息,国家知识产权局信息显示,北京海致科技集团股份有限公司申请一项名为“异构硬件环境大模型推理引擎装置”的专利,公开号CN120069057A,申请日期为2024年12月。
专利摘要显示,本发明提供一种异构硬件环境大模型推理引擎装置,包括:多个标准化推理接口和分布式设计,其中,标准化推理接口用以提供多个标准化功能以及将大模型加载到GPU硬件驱动中,并执行模型推理计算,分布式设计用以同时部署多个不同参数量的大模型到多块GPU显卡硬件中。本发明简化了针对不同GPU型号的适配流程,减少了开发与维护的成本,支持并行推理,使得大模型的运行效率得到显著提升,响应时间大幅缩短,能够适配多种GPU硬件环境,灵活满足不同企业的特定需求,标准化的接口设计降低了开发者的学习门槛,加速了模型的部署与应用进程,使开发流程更加顺畅,可广泛应用于自然语言处理、计算机视觉及多模态等多个领域,展现出强大的市场潜力和应用价值。
天眼查资料显示,北京海致科技集团股份有限公司,成立于2013年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本3441.8832万人民币。通过天眼查大数据分析,北京海致科技集团股份有限公司共对外投资了12家企业,参与招投标项目489次,财产线索方面有商标信息20条,专利信息36条,此外企业还拥有行政许可8个。
本文源自:金融界
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.