国家知识产权局信息显示,微软技术许可有限责任公司申请一项名为“提示词查询的动态批处理”的专利,公开号CN121058014A,申请日期为2024年6月。专利摘要显示,一种模型包括对输入数据(诸如数据提示词)执行不同函数的不同处理节点。每个节点具有批处理准则,该批处理准则包括阈值,当该阈值被超过时,触发向对应节点传输一批处理请求。针对节点的不同处理请求被路由到该节点的批处理缓存。在满足批处理准则之前,阻止处理请求被路由到该节点。一旦批处理准则被满足,被存储在批处理缓存中的一批处理请求即被路由到对应节点。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.