北京
金融界2025年8月23日消息，国家知识产权局信息显示，太昊信息技术（深圳）有限公司申请一项名为“请求结果的生成方法、装置、大模型推理架构、向量数据库、设备、存储介质和程序产品”的专利，公开号CN120523888A，申请日期为2025年04月。
专利摘要显示，本申请涉及一种请求结果的生成方法、装置、大模型推理架构、向量数据库、设备、存储介质和程序产品。所述方法包括：将预填充阶段得到的键值缓存数据卸载至与大语言模型解耦的向量数据库进行存储，并采用与大语言模型解耦的向量数据库执行文本生成任务中解码阶段的上下文向量检索与注意力得分的计算，使得大语言模型可以快速复用向量数据库得到的目标上下文向量以及其注意力得分进行文本生成推理，生成与用户请求数据对应的请求结果。采用本方法能够大幅减少大语言模型的数据处理量，降低大语言模型的长上下文推理成本。
天眼查资料显示，太昊信息技术（深圳）有限公司，成立于2024年，位于深圳市，是一家以从事互联网和相关服务为主的企业。企业注册资本100万人民币。通过天眼查大数据分析，太昊信息技术（深圳）有限公司财产线索方面有商标信息3条，专利信息1条，此外企业还拥有行政许可1个。
本文源自：金融界
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
