网易首页 > 网易号 > 正文 申请入驻

智源开物申请大语言模型推理算力调度方法及系统专利,实现推理集群负载均衡与绿色能源利用率的全局最优

0
分享至

国家知识产权局信息显示,杭州智源开物科技有限公司申请一项名为“大语言模型推理算力调度方法及系统”的专利,公开号CN123114729A,申请日期为2026年7月。

专利摘要显示,本发明公开了大语言模型推理算力调度方法及系统。所述方法包括:获取携带会话标识与提示词的大模型推理请求;基于全局缓存索引计算提示词与各节点的前缀匹配度并排序,生成第一候选列表;根据会话类型确定资源否决阈值,结合节点资源状态指标,按序剔除超标节点生成第二候选列表;若第二列表中存在前缀匹配度相近的节点,则依据绿色成本信息选取目标节点,否则选取排序最前的节点;将请求路由至目标节点,并建立或更新会话标识与目标节点的映射关系。通过实施本发明的方法在确保KV Cache最高命中率的前提下,实现推理集群负载均衡与绿色能源利用率的全局最优。

天眼查资料显示,杭州智源开物科技有限公司,成立于2024年,位于杭州市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本100万人民币。通过天眼查大数据分析,杭州智源开物科技有限公司。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1胜15负!NBA最烂球队!打破58年队史纪录

1胜15负!NBA最烂球队!打破58年队史纪录

篮球教学论坛
2026-11-22 00:39:59
俄方称克里米亚大桥铁路运输已全面恢复

俄方称克里米亚大桥铁路运输已全面恢复

每日经济新闻
2026-11-21 19:12:52
马科斯万万没想到!亲手送杜特尔特去海牙,如今美国却要拆ICC!

马科斯万万没想到!亲手送杜特尔特去海牙,如今美国却要拆ICC!

唠叨说历史
2026-11-18 09:46:20
女子借120万网贷不还,7家催债公司查到信息后面色大变:这地没法去

女子借120万网贷不还,7家催债公司查到信息后面色大变:这地没法去

罪案洞察者
2025-08-04 10:56:06
宋朝的“经略相公”到底是多大官?放到今天相当于啥职位?

宋朝的“经略相公”到底是多大官?放到今天相当于啥职位?

爆史君带你读历史
2026-11-21 17:50:51
又一名电诈头目落网!这回更让人震惊,竟然不是大家熟悉的缅北

又一名电诈头目落网!这回更让人震惊,竟然不是大家熟悉的缅北

人生录
2026-11-02 09:08:26
重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

财联社
2026-11-21 13:56:13
禁止全部中方外交官入境,不准中国统一,这个国家比美国还嚣张?

禁止全部中方外交官入境,不准中国统一,这个国家比美国还嚣张?

触摸史迹
2026-11-22 00:16:56
魏德尔说大国谈判桌上已经没欧洲了,欧洲同时得罪中美俄,翻遍通讯录发现没朋友

魏德尔说大国谈判桌上已经没欧洲了,欧洲同时得罪中美俄,翻遍通讯录发现没朋友

雪饼说
2026-11-21 11:33:29
两代台湾媒体人来到深圳,一位感动不已,另一位开始替台北着急

两代台湾媒体人来到深圳,一位感动不已,另一位开始替台北着急

芳芳历史烩
2026-11-21 10:24:39
“失散20年双胞胎认亲”被质疑是剧本,最新DNA鉴定结果:两人是亲姐妹;同在深圳生活,已约定过年互相上门走亲戚

“失散20年双胞胎认亲”被质疑是剧本,最新DNA鉴定结果:两人是亲姐妹;同在深圳生活,已约定过年互相上门走亲戚

极目新闻
2026-11-21 19:27:16
薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

乡野小珥
2026-11-17 14:39:45
翻墙通报密集落地,多所高校划出了红线!

翻墙通报密集落地,多所高校划出了红线!

言叔财经视角
2026-11-18 14:21:40
尴尬!葡萄牙媒体:C罗主动想给球迷签名,但没人要!

尴尬!葡萄牙媒体:C罗主动想给球迷签名,但没人要!

罗吹终结者
2026-11-21 15:21:57
美联储,新消息!特朗普表态

美联储,新消息!特朗普表态

证券时报
2026-11-21 21:48:03
5-1!意甲劲旅豪取4连胜,超越国米,升到第2,只与榜首相差2分

5-1!意甲劲旅豪取4连胜,超越国米,升到第2,只与榜首相差2分

足球狗说
2026-11-22 02:49:36
中央政法委下死命令!严厉查处这些行为,一起都不放过!

中央政法委下死命令!严厉查处这些行为,一起都不放过!

职场资深秘书
2026-11-21 16:13:08
官方透露:江苏这条高铁已纳入国家规划!正线全长129.1公里

官方透露:江苏这条高铁已纳入国家规划!正线全长129.1公里

交建动态
2026-11-21 20:26:39
A股:已经不必等开盘了,下周11月23日-11月27日,将要这样走

A股:已经不必等开盘了,下周11月23日-11月27日,将要这样走

云鹏叙事
2026-11-21 13:01:14
从35亿跌到7亿,“新能源一哥”跌落神坛!几十万基民被坑惨!

从35亿跌到7亿,“新能源一哥”跌落神坛!几十万基民被坑惨!

青眼财经
2026-10-03 08:00:44
2026-11-22 03:03:00
金融界 incentive-icons
金融界
投资者信赖的财经金融门户网站
10258025文章数 547274关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
健康
家居
房产
公开课

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

医生眼里"很伤腰"的椅子,很多人天天坐

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版