国家知识产权局信息显示,浪潮软件科技有限公司申请一项名为“一种Token预算推理调度与缓存一体化方法及装置”的专利,公开号CN121764615A,申请日期为2025年12月。
专利摘要显示,本发明提供一种Token预算推理调度与缓存一体化方法及装置,属于人工智能与分布式计算领域,本发明将请求结构化为问题画像,基于画像生成精确键、语义键与意图键并按场景阈值判定;对落入适配区间的请求执行实体映射、时效与逻辑校核,并利用语义关联图实现结果级适配复用;依据历史日志输出Token预算并计算配额,在配额约束下进行关键信息提炼与分层压缩;将预算、压缩率与实时负载纳入多目标调度函数进行实例分配;采用LRU‑K与动态TTL对结果更新,并对新语义模式进行异步预热与索引注册。本发明在不改变模型结构的条件下,实现了语义复用、响应时延与Token成本的协同优化。
天眼查资料显示,浪潮软件科技有限公司,成立于2020年,位于济南市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本380000万人民币。通过天眼查大数据分析,浪潮软件科技有限公司共对外投资了75家企业,参与招投标项目5309次,专利信息987条,此外企业还拥有行政许可14个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.