国家知识产权局信息显示,深圳晶铁计算系统技术有限公司申请一项名为“内存访问方法及基于CXL池化内存与光互联的推理系统”的专利,公开号CN123114794A,申请日期为2026年8月。
专利摘要显示,本发明公开一种内存访问方法及基于CXL池化内存与光互联的推理系统,涉及计算机体系结构、存储访问及光互联技术领域。包括:在执行当前Transformer层注意力计算时预测各专家被激活的概率;基于当前可用CXL光链路的可用带宽确定动态预取阈值,将被激活概率大于动态预取阈值的专家纳入候选预取集合,并向全局共享内存池发送针对候选预取集合中各专家权重参数的异步预取操作;当前Transformer层注意力计算完成后,若存在预取未命中的目标专家权重,则对目标专家权重发起同步读取;当前Transformer层推理完成后,根据各专家热度值回收本地缓存空间。本发明通过池化内存扩展模型权重可用容量,并通过基于专家激活概率和链路状态的异步预取降低远端专家权重访问对推理关键路径的影响。
天眼查资料显示,深圳晶铁计算系统技术有限公司,成立于2024年,位于深圳市,是一家以从事零售业为主的企业。企业注册资本300万人民币。通过天眼查大数据分析,深圳晶铁计算系统技术有限公司专利信息7条,此外企业还拥有行政许可4个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.