【金猿产品展】任度大模型——全球首个双网络架构数推分离大模型

传神语联产品

该大数据类产品由传神语联投递并参与“数据猿年度金猿策划活动——2024大数据产业年度创新服务产品榜单/奖项”评选。

任度大模型是传神语联推出的的全国产自研“根原创”轻量化大模型，从底层机器学习框架到上层应用是全技术栈自主研发的成果，未使用任何开源代码和框架，有力保障了技术自主与安全可控；采用双网络架构与高效算法，将客户数据学习网络与推理网络分离，双网络联合推理。其模式区别与传统微调模式，支持数据的增量训练和生成内容的溯源，以及训练数据的增改。

任度大模型包含2.1B与9B两个参数版本，其中9B参数模型在多项国内外测评中性能超越百亿至千亿参数大模型，性参比极高。任度大模型解决了企业大模型落地三大难题：客户私有数据泄露、向量检索精度低、人才投入成本高。实现本地实时学习，让大模型快速转变为内部“专家”。

2024年重大更新升级

2024年，大模型行业已步入落地应用并积极探寻商业化途径的发展阶段。在此背景下，传神凭借对任度大模型的技术创新，破解了企业大模型落地难题。

其一，任度大模型的双网络架构将推理网络与客户数据学习网络分离。客户数据学习网络能够实时学习企业数据，确保客户数据不离场，保障数据安全。

其二，任度大模型突破了常规大模型单一网络的限制，解决了传统方式很难解决的上下文输入长度限制问题，实现了深度知识理解，数据“拔插”技术可实时对数据增删改查，不会对基座模型产生影响，训练时间可缩短至分钟级，广泛适应各种场景。

为更好地适用于企业大模型落地，传神还推出了搭载着任度大模型的任度双脑大模型一体机产品，切实助力企业在大模型应用方面实现高效部署与应用拓展。

应用场景/人群

任度大模型凭借其卓越的性能，在政务、金融、医疗、教育、石油、电力、交通、电信、航空航天等多领域展现广泛适用性与强大赋能潜力；聚焦B端与G端客户，深度贴合企业办公流程与政务事务处理需求，在保障企业数据安全方面达到了行业顶尖水平，实现100%的数据安全防护，成为企业与政务机构在数字化办进程中的可靠伙伴与强大助力引擎。

产品功能

任度大模型功能：提供先进的认知大模型功能，强大的语义理解与逻辑推理能力，并可处理PDF、DOC、PPT、XLS等多种格式的电子文档，以及处理音视图文等多模态功能。大模型集成向量数据库，可支持用户快速构建私有专属大模型。任度大模型极小的参数体量对用户本地部署的硬件要求极低，仅需民用级别GPU即可本地部署与运行。

● 基于双网络架构实现数推分离

任度大模型通过双网络架构的设计将推理网络与客户数据学习网络分离。双网络既支持独立训练，又能联合推理，能够实现实时学习；同时，任度大模型解决了传统方式很难解决的上下文输入长度限制，实现了深度知识理解，并能够持续学习新数据并高效完成数据压缩。

● 全模态数据支持

任度大模型能够对视频、图片、文字等多种模态数据的理解和生成，处理更加复杂和多样的信息输入输出，满足用户全维度数据与垂类场景的切实使用需求。

产品优势

● 双网络架构实现数推分离

客户数据学习网络：独立管理数据，包括增删改查，实现灵活迭代训练。

推理网络：预先训练好的基座网络，提供强大泛化能力，处理常见任务。

● 原创自主，0开源依赖，安全可控

从底层算法到上层应用全部为自主研发技术，不依赖任何开源代码，从源头确保全球用户及系统对数据安全与隐私的核心要求；在理解隐私场景中的上下文，和在攻击场景下保护隐私等方面具备良好的能力，能在更广泛的场景中有效保护用户隐私。

● 轻量化任度大模型，具有极高性参比

包括2.1B和9B多模态两个参数版本，具备高性参比、高兼容性、高精准性等特性；训练与推理算力成本仅为同等大型模型的1/5-1/10以及1/2-1/4，实现了轻量化模型与高性参比的完美结合。

服务客户/使用人数

目前，任度大模型已累计服务如：金融、科研研究院、大型央企、海内外科技企业等数百家企业客户。帮助企业提升办公效率与办公质量，保障企业数据安全方面，降低大模型使用成本。

市场价值

任度大模型技术优势显著且市场潜力巨大。

其一，采用全球首创的双网络架构数推分离技术，保障企业数据安全，大幅节约算力成本，深度理解客户数据，有效解决大模型落地难题；

其二，“根原创”的任度大模型作为为传神全技术栈自主研发成果，确保了技术安全可控，契合各行业客户对数据安全和自主可控的严格要求，在市场竞争中具有技术差异化优势。

其三，任度大模型能够推动行业协同创新，带动产业链上下游企业共同发展，在构建创新商业生态中发挥关键作用。

相关评价

近年来，我们积极推进数字化转型，希望通过引入大模型技术，让研发人员聚焦核心方向，提升研发效率，缩小研发周期，进而强化企业核心竞争力。综合考量我们的业务场景、核心需求及项目预算等实际情况后，我们依托传神的任度大模型展开专业编程工作，成功推动智能编程助手高效落地，在编程时提供代码建议和自动补全功能，让研发人员掌握了新质生产力工具，实现业务高质量发展。从实施效果看，任度大模型性参比表现卓越，至少节省超10%的项目成本。此外，该大模型适配我们的多种场景，已获500+客户研发团队验证，可高精度达成代码生成需求，将研发效率提升20%，切实达成我们的降本增效目标。

——某大型集团数科子公司

据我们了解，市面上大模型产品虽然能满足内容分析诉求，但常伴有信息泄露风险。而我们高度重视借助大模型提升办公效率的同时，能够保护企业数据安全。自我们应用了传神语联的任度大模型之后，凭借其多模态识别、语言理解、逻辑推理与智能交互等功能，能够帮助我们打造高安全、低成本智能分析助手，有效提高分析效率。从工作成效而言，任度大模型性参比极高，能够百分百确保我们的数据安全、提升工作效率并节省项目成本。

——某大型集团研究院

产品所属企业：传神语联

传神语联网网络科技股份有限公司（以下简称“传神”），2005年创立，国家“专精特新”小巨人企业，人工智能技术的科技创新公司，致力于将中国原创的人工智能技术推向世界舞台。现已形成两大核心业务体系：一是以大模型技术为驱动，推出自主研发的任度大模型，开启国产原创大模型新时代；二是以大语言服务为依托，打造行业首个全链条智能化语言服务平台——语联网，已成为语言服务行业龙头企业和产业链核心。传神始终秉承“坚持根原创，促进全球智能互联”的核心理念，通过技术创新和全球化战略，为全球用户提供更高效、更智能的解决方案。

传神曾荣获“‘十二五’科技支撑计划项目”、“国家文化和科技融合示范基地”、工信部“产业技术基础公共服务平台”、工信部“区块链典型应用案例名单”等多项殊荣。此外，传神还被商务部、中宣部、教育部、中国外文局等四部委联合评审认定为“国家语言服务出口基地”，并承担了国家部委、省市的十多项人工智能科研项目。凭借卓越的技术实力和创新精神，传神已经获得了超过200项专利，其中发明专利超过160项，产品和服务广泛应用于金融、医疗、教育、零售、交通等多个行业。