国家知识产权局信息显示,北京紫荆芯界智能科技有限公司申请一项名为“面向大语言模型的张量内存分配方法及系统”的专利,公开号CN122614579A,申请日期为2026年6月。
专利摘要显示,本申请公开的面向大语言模型的张量内存分配方法及系统,涉及深度学习推理引擎技术领域,其中,方法包括根据大语言模型对应的计算图中的各个张量在每个维度上的大小,确定各个张量的形状;根据计算图的拓扑排序,确定各个张量的生命周期类型;根据各个张量的形状和/或生命周期类型,确定各个张量的等级;根据各个张量的等级,为各个张量分别设置对应的内存分配策略;根据各个张量对应的内存分配策略,分别对各个张量执行内存分配,针对不同级别采用针对性的分配策略,不存在外部碎片,长时间运行不退化;通过形状桶位预规划机制,在编译时为动态维度的连续值域预计算多套内存方案,提升处理器缓存命中率和内存带宽利用率。
天眼查资料显示,北京紫荆芯界智能科技有限公司,成立于2024年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本100万人民币。通过天眼查大数据分析,北京紫荆芯界智能科技有限公司共对外投资了1家企业,专利信息2条,此外企业还拥有行政许可1个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.