北京
国家知识产权局信息显示，广州品唯软件有限公司申请一项名为“一种基于模型加速推理的文本生成方法、装置、设备及存储介质”的专利，公开号CN121581166A，申请日期为2025年11月。
专利摘要显示，本申请公开了一种基于模型加速推理的文本生成方法、装置、设备及存储介质，方法包括：获取样本数据，按照数据并行量将样本数据分配至各个第一GPU，以供各个第一GPU进行推理，得到每个并行通道对应样本数据的视觉特征，对各个视觉特征进行聚合，得到聚合视觉特征，通过LLM语言模型对聚合视觉特征进行推理，生成文本数据，其中，视觉模块的GPU加载视觉模块标准权重，LLM语言模型的GPU加载部分LLM标准权重。由此可见，视觉模块通过多GPU对样本分成多份数据进行并行推理，同时LLM也通过未完全加载标准权重的多GPU对聚合视觉特征进行推理，既减缓了视觉模块的参数里压力，又提升了LLM生成文本的效率。
天眼查资料显示，广州品唯软件有限公司，成立于2012年，位于广州市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本100万人民币。通过天眼查大数据分析，广州品唯软件有限公司共对外投资了2家企业，参与招投标项目8次，专利信息766条，此外企业还拥有行政许可15个。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：情报员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
