北京
国家知识产权局信息显示，浩鲸云计算科技股份有限公司申请一项名为“基于意图识别与Token缓存的大模型智能路由方法”的专利，公开号CN122698496A，申请日期为2026年8月。
专利摘要显示，本发明公开了基于意图识别与Token缓存的大模型智能路由方法。该方法以端点标识为路由对象,使同一模型的不同推理框架、部署形态与上下文缓存机制对应不同端点。接收请求后求值得到意图标签与复杂度等级,查询映射取得候选端点,以上下文窗口、算力规格与健康状态为硬约束过滤;当请求继承上一轮意图且历史上下文Token数超阈值时,将上一轮端点标记为缓存优先端点,比较保留其键值状态复用的第一代价与切换后全量重新预填充的第二代价,据以确定目标端点并转换协议转发。本发明减少跨端点切换引起的重复预填充计算,抑制首Token延迟上升。
天眼查资料显示，浩鲸云计算科技股份有限公司，成立于2003年，位于南京市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本79162.4476万人民币。通过天眼查大数据分析，浩鲸云计算科技股份有限公司共对外投资了47家企业，参与招投标项目5806次，财产线索方面有商标信息463条，专利信息265条，此外企业还拥有行政许可25个。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
