容联云，12个月趟出一条AI生产力的路

这种AI的真实需求对应的已然不再是单纯的技术本身的命题，而更是一个集合工程能力、产品能力、技术能力的综合命题，只有把这个综合命题答好，才能真正被市场认可和买单。

“大模型这一波是典型的技术驱动。但我们相信，伴随着越来越多的场景落地，到明年包括像质检、洞察在内的环节会成为新的需求，进而进入需求驱动阶段。”

作者| 皮爷

出品|产业家

在孔淼的感知里，大模型风向在今年正在发生发生微妙的变化。“最开始基本是模型的需求，而从今年Q1、Q2开始，应用的需求开始起来了。”

这是他和容联云团队在一线的真正感受。

其中，金融行业首当其冲。根据一组来自中国移动产业研究院的数据显示，在金融行业，大模型的渗透率如今已经超过了50%，几乎是所有产业之首。

但这种渗透率并不代表真实的生产力。即对金融行业而言，如果说一年前的更多动作是基于基座大模型进行自身专属模型的训练，那么如今包括银行、保险、证券等不同金融机构的核心焦点恰只有一个：应用。

这些应用的需求广泛分布在足够精细的场景中，比如智能客服、坐席辅助、证券质检、数字营销等等。

这也对应的是孔淼和容联云的真实反馈。实际上，不仅是金融，在千行百业，如今基于AI的需求都在从模型层向更具体的应用层（copilot/agent）转变，这些转变的底层对应的是企业在如今AI发展一年后，对有效的产品加持和对更高ROI转化的真实需求。

不过一个真实情况是，对于如何将大模型真正嵌入自身的业务系统，或者是如何在应用层进行基于自身业务的适配开发，如今市场上并没有一个标准的答案。

但已经有企业正在跑出一条路径。

2023年12月的发布会上，容联云正式发布基于自研赤兔大模型的全新产品品牌【容犀智能】及生成式应用【容犀Copilot】，旨在帮助企业进行包括营销服等一系列流程的AI改造和重构，其中覆盖包括数据、Copilot、Agent等一系列落地形态。

从当时的行业视角来看，这几乎是国内最早被拆解的AI应用路径之一。而如今，一年过去了，容联云的这个答题卷上已经有了新答案。

一、金融，

智能化变革前夕

“金融现在对AI应用的需求很大。”一位互联网大厂相关AI应用负责人告诉我们，根据他向我们透露，在今年以及接下来的KPI中，金融都将成为最重要的大头。

诚然如此。如果从整个大模型落地的横向来看，金融几乎可以算是有最为丰沃的AI落地土壤。根据一组不完全数据统计，截止目前，如今国有六大行的MAU均已经超过4亿，排名靠前的股份制银行MAU也已经超过2亿，此外，区域性农商行等用户数也已经超过大几千万。

从宏观视角来看，在过去几年时间里，金融行业已经初步进行了数字化底层框架的建设，其中包括线上线下的一体化，即银行网点和手机线上渠道的一体化，以及不同渠道（移动金融生态、APP等）的拓宽加码等等，这些“立柱架梁”的措施也恰构成了如今金融行业的高度线上化和数据化。

但下一步的挑战也更在浮现。“从现状上讲，绝大多数场景比如像数字化营销平台、智能运营等这些平台包括智能坐席，真正做到成熟应用的还是比较少的，大多数属于初步的部署，有些浅层次的应用但还没有深入到业务中。”孔淼表示。

实际上，这也恰是前文报告所说的金融企业普遍布局大模型的原因之一。即在相对成熟的数字化基座之上，金融企业需要基于AI的手段帮助其完成更精细化的业务搭建和客群运营，这其中包括营、销、服的全部场景和节点。

这显然不是一件容易的事。

首先，从应用本身来看，就当下大模型服务市场来看，大部分大模型厂商更多的聚焦点仍然是模型层，即基于训练和微调帮助企业落地自身的大模型，即使中间有自适应的调优工具或RAG手段，其也很难细化到某个如营销、客服等细分场景的应用，这也就导致了对金融企业而言，其采购的产品很难在具体的业务场景落地应用。

其次，对于金融行业而言，从过去的数字化时代能看出的一个特点是，其需要足够精通特定金融场景和流程的服务商，比如对于营、销、服不同环节的产业理解和加持，只有对症下药，才能帮助其构建足够可用的数字化基础设施，而在AI大模型时代，在AI能力的叠加下，这些要求的含金量还更在肉眼可见的上升。

此外，也是最重要的，则是金融行业对于数据安全合规的要求，即对于服务商而言，其需要有特定的方式来保证数据的安全合规，不论是在训练侧还是后续的RAG等环节，都需要对数据有特殊的处理。

实际上，这些要求背后对应的也更是过去一年不少金融企业尝试的现状——即花费大量的人力、物力，但最终却很难实现高性价比的回报，仅仅在底层构建了一个“受限”的金融大模型底座，在数据治理、数据表达，以及具体的AI应用环节，都未收到成效。

从更大的视角来看，AI对应的是金融企业的第二次竞争力构建，是必行之事。这其中不论是营、销、服的任何一个节点，都需要AI的加持进而放大其固有边界，使企业进化。

对金融行业而言，真正的大模型工具应该是怎样的？或者如果把视角放大，对于产业而言，一个真正的AI生产力工具应该是怎样的模式？

二、容联云的12个月：

寻找一条生产力路径

“准确率从90%到94%，召回率从67%到96%”。在容联云活动现场，容联云产业智能云大模型应用产品经理彭波给出了一组数字——这是在容联云质检代理（QM Agent）的加持下，某个国内头部证券机构内部发生的新改变。

提及质检，在证券行业不会有人陌生。即基于质检的环节，证券机构可规避来自市场层面和内部操作层面的一系列风险，最终做到合规安全和对投资人负责，可以说，质检是证券公司保证自身业务正常推进的核心环节。

但这个核心环节伴随着企业业务的增长也更对应出现一些问题。比如随着客户服务数增加，对传统的人工质检而言，其对应的工作量和投入的人力成本也更在与日俱增；此外，伴随着表达形式的多元化，由于质检人员的业务水平不一，部分对于质检语言的筛查力度存在漏洞。

这正是容联云锚定的节点。和前面显著提升的数据对应的是，基于容联云质检代理（QM Agent）产品，证券公司可以实现“10000通会话、300小时时长、8大语义质检项、6.5小时质检完成”的成绩，而这些标签之外，企业需要部署的仅仅是一个14B参数的小模型和几张市面上通用的GPU算力卡。

同样有相似效果的也更在寿险场景，以坐席环节为例，基于容联云的坐席代理（Virtual Agent）产品，某寿险企业实现了超过50人/天的人力节省，其咨询问答首解率由原来的60%提升至80%，转人工率由85%降低至55%。对企业而言，其同样仅需要基于数量不多的显卡进行14B小参数模型的部署，即可以达到这些效果。

这些都是在刚刚举办的“2024数智金融应用论坛”上容联云的交出的成绩单。除了上述提到的容犀质检代理（QM Agent）、容犀坐席代理（Virtual Agent），还有容犀坐席助理(Agent Copilt) 、洞察代理Insight Agent等等面向具体业务环节的AI应用产品和具体实例。

“过去这一年，伴随着和客户的沟通，我们对大模型的落地场景也越来越清晰，包括那些是真正的痛点，哪些是痒点，再或者哪些是能产生真正的商业价值和增量的。”孔淼告诉产业家。

这些愈加清晰的场景在容联云内部进一步基于AI被转化为应用产品，不论是容犀质检代理（QM Agent）、容犀坐席代理（Virtual Agent），容犀坐席助理(Agent Copilt) 、洞察代理Insight Agent，还是如今一众仍在加速落地的产品，对容联云而言，其对应都是团队基于真实考察的AI刚需点，辅助各种AI训练/调优方式最终的成果。

实际上，这也恰是对待新技术应有的审慎的态度，即在AI大模型的技术浪潮中，在技术的极致理想之外，对更多的企业而言，其更需要真实可见的生产力抓手，这些抓手是更加有价值的线索梳理、更智能的营销辅助等等。

在孔淼看来，相较于大模型在预训练等环节的推进，在具体的落地层面，其更需要基于工程的能力进行需求的满足，比如大小模型结合的方式，比如在不同的环节基于copolit或者agent的方式等等。

实际上，孔淼说的工程能力不仅于产品层面。据了解，对于不同企业的需求，容联云可以采取灵活的满足方式，即不论是其底层是否具备基座大模型，还是需要灵活的模型部署等，再或者是仅需要上层的应用部署等等，基于基于RAG、大小模型结合的方式，容联云都可以帮助金融企业完成落地。

一个数据是，截至目前，在金融行业，容联云的相关AI产品已经落地超过几十个场景，在几十家银行、证券、保险等不同细分领域的金融企业成功落地，帮助其构建出新的智能化营销服体系。

三、中国产业AI落地的密钥到底在哪？

对于金融，在过去的数字化时代，市场往往冠以“明珠”的称谓。即因为其本身对于数字化技术的应用足够广泛，不论在底层的数据层面，还是上层的软件层面，金融企业往往都是最先进生产力的代名词。

在中国一众产业的数字化转型中，刨除产业本身的差异性之外，更多的产业转型路径都是以金融为模板进行布局。

而能看到的是，在如今的AI时代，这个命题正在再次上演。也或者可以说，在金融行业对于AI应用的落地中，我们更能看到在中国的土壤上，怎样的AI模型才能真正转化为企业的市场竞争力和生产力。

“现在我们的上层应用之间，应用和底层模型之间的各个组块都是解耦的，企业可以根据自身需要或者现阶段的业务需求来一步步使用。”容联云大模型产品负责人唐兴才告诉产业家，“而且不需要使用参数特别大的模型，只需要在特定的小参数模型上，经过推理强化或规则增强等就可以做到相关能力。”

即一个真实的情况是，对于企业的AI项目而言，其需要的往往是渐进式的落地和“小成本”的业务尝试，以更小参数量的模型和特定的场景环节为切入点，可以让企业感受到AI的真正加持，进而一步步完成AI化的改造。

此外，对服务商而言，其需要的也更是聚焦企业特殊痛点，比如银行和寿险的坐席环节，比如证券的质检环节，比如营销环节等等，这些细分场景在过去的多年里已经完成了数字化改造，需要AI帮助其释放更大的活力和能力边界。

对应到产品侧则是要求服务商需要对特定的环节和场景有足够深的理解和数据沉淀，同时在工程落地侧具备特定的推理强化或专属训练能力，进而打磨出对应细分场景的产品。

实际上，这也恰对应着容联云能够给到金融企业真实加持的核心原因。不论是在整个金融方向的基于金融数据的底座赤兔大模型的训练，还是聚焦到细分场景环节的规则增强、推理增强，以及在落地过程中的大小模型结合和不同模块的解耦，其本质都是为了适配当下金融企业对大模型的真实需求：真实可用，小步迭代。

也可以说，这种真实需求对应的已然不再是单纯的技术本身的命题，而更是一个集合工程能力、产品能力、技术能力的综合命题，只有把这个综合命题答好，才能真正发挥作用，被市场认可和买单。

“大模型这一波是典型的技术驱动。但我们相信，伴随着越来越多的场景落地，到明年包括像质检、洞察在内的环节会成为新的需求，进而进入需求驱动阶段。”孔淼说道。

12个月后的如今，容联云正在趟出一条真实的AI路。