国家知识产权局信息显示,湖北数据集团有限公司;华中科技大学申请一项名为“一种基于零成本代理的AI服务协同优化方法及系统”的专利,公开号CN122513244A,申请日期为2026年4月。
专利摘要显示,本发明涉及一种基于零成本代理的AI服务协同优化方法及系统,其方法包括:获取待评估AI服务的模型结构特征,利用预设的非训练评估模型对所述模型结构特征进行信息传递特性的量化分析,得到各模型候选版本的性能得分;基于所述性能得分,结合计算资源的实时状态,通过兼顾排队时延收益与通信时延收益的部署算法,确定AI服务实例在目标计算节点上的部署策略;实时监测服务请求负载,根据负载变化情况及所述性能得分,从模型候选版本中筛选目标版本,并对已部署的AI服务进行在线替换。本发明通过量化编码构建的代理模型、通信—排队协同感知部署和负载感知模型替换,实现了链路协同机制,可有效降低端到端时延,提升资源利用效率与服务稳定性。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.