国家知识产权局信息显示,北京智谱华章科技股份有限公司申请一项名为“面向大语言模型的推理链动态解码约束压缩方法及系统”的专利,公开号CN121413714A,申请日期为2025年10月。
专利摘要显示,本发明属于人工智能技术领域,涉及一种面向大语言模型的推理链动态解码约束压缩方法及系统,所述方法包括:1)对预训练大语言模型进行参数剪枝、量化或稀疏化,以获得待校准的压缩模型;2)将待处理的推理任务输入到预训练大语言模型中,采集预训练大语言模型的输入端激活特征以及预训练大语言模型生成推理链过程中的中间激活特征,构建覆盖实际解码分布的校准数据,并用校准数据对待校准的压缩模型进行推理链校准;3)通过推理链动态解码约束机制对推理链校准后的压缩模型的推理链的长度和正确性进行调节,以获得调节后的压缩模型。其通过引入动态解码约束机制,通过对不同类型推理链实施差异化优化,能够实现对推理链生成质量的有效控制。
天眼查资料显示,北京智谱华章科技股份有限公司,成立于2019年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本4028.1069万人民币。通过天眼查大数据分析,北京智谱华章科技股份有限公司共对外投资了26家企业,参与招投标项目238次,财产线索方面有商标信息265条,专利信息270条,此外企业还拥有行政许可6个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.