国家知识产权局信息显示,浙江省健康云有限公司申请一项名为“基于SwiGLU激活函数的大模型推理加速方法及系统”的专利,公开号CN122947909A,申请日期为2026年7月。
专利摘要显示,本发明涉及大模型领域,特别涉及一种基于SwiGLU激活函数的大模型推理加速方法和一种基于SwiGLU激活函数的大模型推理加速系统。一种基于SwiGLU激活函数的大模型推理加速方法,包括:将大模型中的门控权重矩阵和向上权重矩阵进行列级交错排布,生成融合权重矩阵;所述门控权重矩阵的第i列与所述向上权重矩阵的第j列在所述融合权重矩阵中相邻存储,i,j为列索引;将输入向量与所述融合权重矩阵进行线性变换,得到第一张量;将所述第一张量经过自适应分段逼近激活函数处理,得到非线性的推理结果。本发明技术方案将SwiGLU激活函数的推理延迟降低近一半,吞吐量提升近一倍,充分发挥了硬件算力。本发明不依赖特定硬件特性,具有良好的跨平台适应性。
天眼查资料显示,浙江省健康云有限公司,成立于2023年,位于杭州市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析,浙江省健康云有限公司共对外投资了1家企业,参与招投标项目196次,专利信息3条。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.