北京
分享至
国家知识产权局信息显示，中科可控信息产业有限公司申请一项名为“面向异构边缘设备的带宽感知模型层迁移方法及系统”的专利，公开号CN122994310A，申请日期为2026年8月。
专利摘要显示，本发明公开一种面向异构边缘设备的带宽感知模型层迁移方法及系统，应用于流水线并行推理。模型部署阶段，根据相邻边缘设备的可用存储空间预先划分候选边界层，并将候选边界层冗余存储于相邻设备。推理过程中，采集各流水线阶段的阶段时延，根据时延波动程度自适应调整滑动窗口并获得平滑阶段时延；依据各阶段平滑时延差异、动态迁移阈值及冷却条件判断是否触发迁移。触发后，结合迁移后的预测计算时延和预测通信时延，联合确定多个流水线边界的目标模型层分配方案，并通过切换候选边界层的执行状态及数据路由完成迁移。本发明无需在线传输模型权重，能够适应链路带宽变化，降低阶段负载差异和模型推理时延。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
