北京
国家知识产权局信息显示，太保科技有限公司申请一项名为“一种大模型推理服务的优化调度方法及相关装置”的专利，公开号CN121478448A，申请日期为2025年11月。
专利摘要显示，本申请公开了一种大模型推理服务的优化调度方法及相关装置。目标大模型的推理服务部署有多个推理服务实例和多个用于运行推理服务实例的节点，首先采集各个推理服务实例的硬件利用指标和服务利用指标，并记录采集时间及实例ID。随后，对这些指标进行预处理，得到硬件预处理指标和服务预处理指标。接着，获取目标大模型的多个模型参数和目标计算机的硬件算力参数，将每个推理实例的ID、硬件预处理指标、服务预处理指标与模型和算力参数关联整合，形成关联数据集。基于此数据集，分别计算每个推理服务实例的HRUI、SPHM和HRVE，以基于HRUI、SPHM和HRVE生成目标大模型的容量调整策略和请求路由策略。
天眼查资料显示，太保科技有限公司，成立于2022年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本70000万人民币。通过天眼查大数据分析，太保科技有限公司共对外投资了1家企业，参与招投标项目18次，财产线索方面有商标信息2条，专利信息403条，此外企业还拥有行政许可10个。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
