北京
国家知识产权局信息显示，广西电网有限责任公司申请一项名为“一种多模态大模型高并发推理的负载均衡决策方法、系统、设备及介质”的专利，公开号CN122824748A，申请日期为2026年7月。
专利摘要显示，本发明公开一种多模态大模型高并发推理的负载均衡决策方法、系统、设备及介质，包括：推理请求进行词元序列分析，提取语义向量并计算硬度因子；为每个服务器维护历史请求记录，并计算每个服务器的初始优化利用项和预期残差补偿因子，将初始优化利用项与预期残差补偿因子相加，得到每个服务器的最佳利用项；计算每个服务器的哈希匹配度评分和实时负载量评分；将每个服务器的最佳利用项、哈希匹配度评分和实时负载量评分进行加权求和，得到综合决策得分；根据综合决策得分选择目标服务器，并将当前推理请求路由至所选目标服务器。本发明能够大幅降低高并发场景下的系统开销和决策延迟，有效避免负载均衡器成为性能瓶颈。
天眼查资料显示，广西电网有限责任公司，成立于1990年，位于南宁市，是一家以从事电力、热力生产和供应业为主的企业。企业注册资本1419133万人民币。通过天眼查大数据分析，广西电网有限责任公司共对外投资了98家企业，参与招投标项目44484次，专利信息3762条，此外企业还拥有行政许可256个。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
