金融科技架构师如何打造稳健可靠的AI智能体系统

在近期于纽约举办的AICamp技术交流会上，多位来自金融科技领域的从业者分享了他们在实际应用中构建AI智能体的经验，强调架构决策、系统耐久性与有效监管是落地的关键所在。

FICO全球解决方案架构师李昊、Diagrid联合创始人兼首席技术官雅龙·施耐德，以及StoneX集团高级软件工程师亚当·赫斯特，分别介绍了各自团队如何将早期粗糙的AI智能体工具打磨成更可靠的生产级系统。

AI智能体凭借"只需少量输入即可主动甚至自主运作"的特性赢得了广泛关注。但目前仍处于发展早期，智能体有时会产生意料之外的行为，这与强监管的金融行业的要求存在明显冲突。

从原型到生产的鸿沟

李昊指出，过去十年间金融行业的大量架构决策都是针对确定性系统设计的，而AI智能体并不在这样的体系中运行，这意味着必须制定全新的规则体系。"我们必须学会在智能体推理边界与确定性架构之间划清界限，并将两者有效连接起来。"他说。

借助大语言模型，金融科技团队已经能够在一天之内生成一个原型——但真正的挑战在于将其推向生产环境。届时，工程师需要应对局部故障、审计需求与多智能体协同问题，同时还要管理概率性输出。为此，李昊建议重点关注四个方面：原型阶段有效的内容、其对生产环境的影响、两者之间存在的差距，以及需要为此做出哪些新的架构决策。他还特别强调，在金融服务领域，治理问题应在原型阶段就纳入考量，因为监管机构必然会对最终进入生产的内容提出质疑。

构建具备容错能力的关键业务智能体

施耐德坦言，他在使用AI智能体时仍面临不少挑战，因为智能体有时难以准确理解用户意图。他强调，智能体实验在进入生产之前必须具备足够的健壮性。"我喜欢把粗糙的系统打造成真正有韧性的东西。"

在联合创立Diagrid之前，施耐德曾在微软担任Azure容器应用的首席软件工程师。他观察到，当前市场上存在大量智能体框架，但它们有一个共同特点——都只解决相对简单的问题。智能体通常只是创建一个简单的循环，不断重复执行某项任务直至完成。

真正困难的是将这些简单能力整合并投入实际运营，而这恰恰是智能体容易失效的环节。施耐德用晨间通勤作比喻：若其中某个环节出了问题，比如地铁故障，你就不得不从头开始重新准备，代价极大。"这本质上就是AI智能体在生产环境中面临的困境。"

他特别指出，在智能体失败后反复重启不仅会导致运营失控，还会带来巨额大语言模型调用费用。他建议为智能体配备持久化执行引擎，使其在失败时能够保存上下文并从断点处继续执行，而不是从头开始，从而有效控制成本。

为集成与并购场景设计系统

赫斯特介绍，StoneX是一家横跨农业大宗商品、贵金属、股票和证券等领域的金融服务机构，百年来通过大量并购实现了快速扩张，如何在各异构系统之间建立统一协作机制，始终是一大挑战。

为避免陷入"集成债务"的泥潭，StoneX团队采用了统一的运行时方案，选择了开源分布式运行时系统Dapr——这一项目正是由施耐德在微软任职期间联合创建的。

2020年对Gain Capital的收购是其中最为复杂的一笔。由于Gain Capital此前已完成近十家公司的整合，这次收购实际上带来了多达11套已被他人整合过的企业系统。为应对这一挑战，StoneX团队开发了名为"Overwatch"的监控产品，用于统一监管这些分布式任务与流程。该系统托管Dapr工作流，无需自建数据库，却能保障系统的全局可见性与可审计性，有效管理跨多个主机独立运行的数百个工作流。

"统一运行时真正改变了我们的编码方式……我们采用Dapr不是为了少写代码，而是为了减少需要自己拥有和维护的代码量。"赫斯特说道。

Q&A

Q1：AI智能体在金融行业落地时面临哪些主要挑战？

A：AI智能体在金融行业落地面临多重挑战。首先，金融行业此前的架构大多针对确定性系统设计，与AI智能体的概率性输出存在根本冲突。其次，从原型到生产环境的跨越需要处理局部故障、多智能体协同和审计合规等问题。此外，监管机构对进入生产的系统有严格要求，治理机制必须从原型阶段就纳入考量。智能体的不可预期行为也与金融行业的强监管要求难以兼容。

Q2：智能体失败后反复重启为什么会导致高昂成本？

A：当AI智能体在执行过程中发生故障并从头重启时，之前已完成的所有大语言模型调用都会被重新执行，而每一次大语言模型调用都会产生费用。如果智能体反复失败、反复重启，就会不断累积调用费用，最终导致成本失控。施耐德将这种情况形象地称为"破产的好方法"。他建议为智能体配备持久化执行引擎，在失败时保存上下文，从断点处继续执行，以避免重复计费。

Q3：StoneX开发的Overwatch系统是什么，有什么作用？

A：Overwatch是StoneX团队基于Dapr开发的一套分布式作业监控产品，用于统一管理和监控跨多个主机运行的数百个分布式工作流。它本身不维护独立数据库，但能提供全局可见性和可审计性，确保各类分布式任务和流程处于有效监管之下。这一工具在StoneX完成大量并购后，帮助团队有效整合了来自多家公司的异构系统，显著降低了系统维护的复杂度。