国家知识产权局信息显示,脑智算芯(上海)科技有限公司申请一项名为“一种面向异构长上下文模型的状态分类、分级存储放置及并行数据布局方法”的专利,公开号CN122862462A,申请日期为2026年9月。
专利摘要显示,本发明涉及大模型推理存储优化技术领域,具体是一种面向异构长上下文模型的状态分类、分级存储放置及并行数据布局方法,识别模型数据区域对应的状态演化类型并生成状态描述符,依据状态演化类型、容量及访问模式,在片上RAM与HBM外部存储之间动态切换量化尺度、循环状态的存储层级,仅加载模型当前活动范围状态数据。本发明为不同状态演化类型匹配专属地址生成模式,搭建PE处理单元与HBM外部存储的通道映射关系,对模型权重、KV缓存实施差异化通道分片布局,并为GQA分组查询注意力共享KV头配置通道组物理副本。本发明对多类模型状态差异化管控,有效规避无效数据搬运,匹配软硬件计算与传输粒度,缓解存储通道冲突,兼顾长短上下文推理性能。
天眼查资料显示,脑智算芯(上海)科技有限公司,成立于2025年,位于上海市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本1183.3332万人民币。通过天眼查大数据分析,脑智算芯(上海)科技有限公司专利信息4条。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.