让AI从“用起来”到“有价值”，火山引擎的金融大模型是怎么炼成的？

5月15日，带着与多个客户的实际合作案例，同时聚焦大模型在金融行业的规模化应用，火山引擎升级并且正式发布了火山引擎金融行业大模型解决方案。

当前，以大模型为代表的AI技术，正在全球掀起新一轮的产业技术变革。金融行业凭借其对时代趋势的敏感洞察力和对新技术的快速接纳能力，已经成为引领时代潮流的重要力量。如今，金融行业的创新火炬已经传递到了大模型技术的手中，如何赋能金融科技，正成为大模型的重要使命。

大模型如何赋能金融行业？

AI大模型正引领千行百业加速升级，金融行业因被视作更优落地场景也同步掀起了一轮热潮。清华大学经济管理学院近期发布的一份研究报告显示，生成式AI正在席卷金融业，释放新的生产力，以前所未有的方式重塑全球金融业的格局。

“一般认为，数字金融是金融机构适配数字经济的金融创新，既包括自身的高质量数字化转型，也包括高质量地服务好数字经济发展。”在本次活动的开场致辞中，火山引擎金融行业总经理刘俊如是说到。

从匹配度上看，金融业是典型的业务场景复杂，数据密集型行业，而大模型技术最突出的一个特点就是具有强大的数据分析和理解能力，能够提高数据创造价值的效率。如果把大模型的能力放在金融业中去处理原有的一些任务，会对很多工作产生提质增效的效果。

从市场的需求反馈情况来看，对于大模型，当前国内外金融行业都展示出开放的态度，各机构均在积极主动拥抱大模型。

国际数据公司IDC的一项调研显示，超半数的金融机构在2023年投资生成式人工智能技术。包括BloombergGPT在内，国外已出现了一系列金融大模型。目前，我国已经有6家上市银行公开发布大模型技术开发与应用的信息。

在具体的应用场景上，当前金融大模型的应用已涉及风险管理、客户服务、投资决策、反欺诈等诸多领域，大型金融机构及科技公司同样积极布局或应用大模型技术以提升业务水平。

火山引擎金融行业总经理刘俊

对于火山引擎而言，刘俊提到，根据不同的服务对象，火山引擎的金融大模型应用可归类为BCDE四大场景，即Business对公领域、Customer对客领域，Developer对开发者领域，Employee对企业管理者及员工领域。火山引擎正与金融机构共同探索“场景+模型+算力”的落地方式，推动大模型技术在金融行业的应用。

场景+模型+算力 助力金融大模型释放规模化价值

火山引擎相应的技术和业务，长期在金融行业提供服务，现在已经有了深厚的积累。

官方数据显示，过去四年，火山引擎已经为200余家金融机构提供了技术支持和创新解决方案，并形成“行业-增长-云”的数字金融解决方案体系，即针对银行、资管、保险、泛金融细分领域业务特点，打造行业场景方案；综合运用内容、数据、算法、音视频等数智技术，打造体验创新和数据驱动的增长方案；以自主创新、云原生架构、开放解耦的敏捷底座，打造云底座方案。

正是凭借体验创新、数据驱动、敏捷迭代的12字价值内核，火山引擎在助力金融机构加快数字化转型的同时，也让金融服务提质增效。

火山引擎金融行业总经理刘俊

而如今，进入大模型的时代，要让大模型在金融行业得以规模化应用，除了考验模型能力，更考验对业务的理解和整体工程化能力，这也对厂商们提出了更高的要求。

对此，火山引擎金融行业解决方案负责人王建军认为，最佳办法是与业务应用找到结合，构建“以模型-应用-数据为核心、算力为支撑”的大模型飞轮，即模型驱动飞轮启动，并应用于业务场景，业务产生新的数据并反哺模型迭代，三者相互作用，释放效果增强的飞轮效应，底层则由稳定安全的算力平台提供动力支撑。

在这方面，火山引擎已经找到了自己的一些解法。

算力方面，火山引擎全新发布了混合云 veStack 智算版，具有万卡集群组网，3.2T 高性能无损网络的超大规模优势；端到端工程化所支撑的极致性能，能够实现97.78%训练加速比和分钟级故障发现和自愈；拥有多元异构能力，可适配十余种 GPU，支持主流国产化 GPU。

模型方面，火山引擎结合行业属性，升级了“1+1+N”的模型生态。公有云上，字节跳动自主研发的豆包大模型已经正式对外提供服务。私有化部署方面，与合作伙伴智谱AI联合打造的火山引擎-智谱AI金融行业大模型，能够满足对数据安全要求更高的私有化场景；此外，火山引擎也以开放的态度，与更多开源及商业化模型做好生态支持与对接，满足金融机构个性化需要。

应用方面，在发布会当天，火山引擎分享了展业助手、智能贷后管理、智能客服、智能体构建、代码生成、ChatBI、员工服务等7个已与客户共建的应用示例，并重点介绍了新一代AI应用开发平台扣子以及企业专属AI应用创新平台HiAgent，二者分别满足企业不同部署环境下的低代码智能体搭建需求。

火山引擎金融行业解决方案负责人王建军

具体的落地成效上，目前，火山引擎已与招商银行、华泰证券、海尔消金等多家机构进行了场景探索和落地实践，未来将继续以规模化落地为核心，携手金融机构伙伴AI 创新。

做好大模型时代的数字原力

在火山引擎的各个合作伙伴中，作为金融行业三个细分赛道的代表，招商银行、华泰证券、海尔消金是大模型应用的三个典型案例。

作为金融行业AI转型的践行者，招商银行正在智能外呼、数字人、智能数据助理等上百个 AI 服务场景探索和投入。招商银行数字金融发展办公室主任高旭磊表示，大模型将为银行全链条业务带来改造和升级。携手火山引擎，双方将共建大模型应用场景及高性能基础设施，改造现有系统和产品，催生大量以 AI 为核心的智能体应用。

再以华泰证券为例，此前构建的证券客服体系存在产品形态孤立、意图识别泛化性不足、缺乏多轮会话理解能力等问题，用户体验有待提升。如今，华泰证券正利用AI大模型优化财富管理助手，通过引入大模型技术，与传统模型算法、业务交易流程融合，新一代财富管理助手解决了传统技术无法对意图进行精准识别、无法与客户之间进行多轮交互的问题。

观察华泰证券财富管理助手从思考到产品打磨的过程，能够发现，很多企业拥有海量用户场景，且具备很强的知识壁垒，引进先进技术的前提条件之一，是必须将方案优化到比较成熟的阶段。其中的关键是面向不同场景的大模型统一应用架构、新一代知识库等，作为技术提供方，火山引擎提供了多个模型调用、灵活可观测的云算力、安全沙箱等能力支持。在模型应用阶段，火山引擎以“1+1+N”的模型能力矩阵，提供国内更好的模型组合，使其避免硬决策压力、保证模型选型的竞争力，同时实现模型调用的观测能力和模型版本的平滑升级，保障模型接入可升级、可回滚、可观测。

海尔消金CIO梁树峰则表示，在引入大模型后，现在实际的落地效果是非常显著，最典型的要数海尔消金的贷后管理工作。此外在客服领域里边，也对客户意图进行识别，可以更精准的理解客户的意图，还便于事后对客户进行管理。

贷后管理这项业务，通常是需要有客服的坐席人员去跟客户沟通，以此识别客户的还款意愿，还款行动计划。为了方便更好对客户提供服务和贷款贷后的管理工作，整个交互过程当中，客户的信息都需要人工介入，这其实需要很高的人力成本。

梁树峰说，在贷后管理这个场景里，通过与火山引擎的合作，引入大模型能力，即使是目前的初始应用阶段，现在整个业务的产能提升也能达到15-20%。海尔消费金融坐席助手不仅解决了摘录过程中95%的质量问题、每天节约专员1-3小时时间，同时还提升了智能问答系统的回答准确率。

当然，任何技术都是一把双刃剑，作为金融行业一线从业人员，梁树峰也提到了当前大模型这项技术在应用时候面临的一些挑战，如信息安全、模型代差等。

大模型技术的应用就像硬币的正反两面，正面是技术应用将信息处理和智能决策带入新纪元，反面则是大模型训练和微调面临的数据问题、合规及法律法规等方面的问题、大模型固有的“幻觉”问题等一系列可能存在的问题。

而相比其他行业，金融行业对数据安全、隐私合规、时效性和准确性都有着更为严苛的要求，这决定了金融大模型的应用实践面临着更为复杂的掣肘。

在这次活动当天，国家金融与发展实验室副主任杨涛认为，大模型在金融行业有广泛应用场景，但其合规应用需要直面诸多风险，应引导金融机构需要根据自身资源禀赋选择差异化技术路线，避免一哄而上。

但无论如何，属于大模型的时代已来，这项技术正以前所未有的深度和广度，重塑千行百业。大模型之于金融行业，一切正方兴未艾，而随着技术的不断进步与场景的持续拓展，相关的应用将更加广泛深入，这不仅将进一步提升金融服务的质量与效率，也将在防范金融风险、促进经济结构调整、推动社会公平正义等方面，发挥着不可估量的作用。

刘俊表示，“火山引擎将不断深化模型、应用、场景整合能力，推动大模型技术在金融机构的规模化应用，增强价值获得感，共同书写金融行业的崭新篇章。”