![]()
作者 | Kevin Dubois, Mario Fusco
译者 | 平川
我们决定尝试一个元实验:将 LangChain4j 的文档交给一个代码助手,并要求它参照自己构建一个智能体。具体来说,我们希望它能设计一个多智能体系统,使它能够像人类工程师或代码助手那样编写、测试和调试代码。
大语言模型(LLM)能够仅凭文档就构建出自己,这一事实从两个方面印证了 LangChain4j 的优势。首先,其 API 足够清晰易懂,模型可以直接使用;其次,该框架提供了充分的协调能力,使生成的系统能够在真实的调试任务中端到端地运行。
该项目还让我们有机会对 LangChain4j 中新增的监控工具做了压力测试。在让一个 AI 构建另一个 AI 时,确实需要深入了解其内部运作机制。本文将详细说明实验过程,并介绍最终生成的项目。该项目已经发布在 这个代码库 中。
通过氛围编码实现一个智能体系统
为了让代码助手参照自己构建一个智能编码器,我们编写了以下提示:
通过文档和源代码研究 LangChain4j 智能体框架的 API 和功能,并在此基础上设计一个智能编码器,使其成为你自己的克隆体。
经过几分钟的思考并根据该提示进行操作后,代码助手认定, LangChain4j 的监督者模式最适合此任务。它提出了一个初步架构:
}代码助手还设计并开发了 4 个由监督代理使用的子代理,以及相应的系统和用户消息。这些代理分析了现有代码,制定了执行待执行操作的计划,按照计划实施了这些操作,并通过编译和执行生成的代码使其投入运行。随后,代码助手为每个代理实现并正确地提供了必要的工具:为“资源管理器”代理提供文件系统资源管理器,为“实现者”代理提供代码编辑器,并为“执行者”代理提供运行代码的途径。
首次迭代的成果令人印象深刻。如果你曾经使用过代码助手,就会知道这基本上就是现实世界中“专业”助手所采用的模式:它们通常执行的操作与我们实验中生成的 4 个代理所模拟的四项操作相同。随后,助手会以类似监督者的方式协调这些操作来完成当前任务,这与我们的实现方式如出一辙。
编程助手能够设计并实现这样的系统,表明它至少在一个比较高的层面上了解了自身的内部运作机制,并且能够将这种理解转化为智能体系统的具体设计。
将智能编码器投入应用
为了测试代码助手设计的智能编码器,我们让它编写了一些存在错误的代码,然后使用新创建的系统来修复这些错误。代码助手生成了下面这个 Calculator 类,其中包含 4 个存在轻微错误的方法:
}接下来,它生成了一项测试。该测试将包含 Calculator 类的文件夹克隆到了一个临时目录中,并针对该文件夹运行 LangChain4j 智能代码生成器:
}现在运行下代码,看看这个基于常见 LLM 的实现是否真的能正常工作。我们为监督器和编码智能体都配置了 OpenAI 的 gpt-4o。选择该模型是因为 OpenAI API 是 LangChain4j 中的默认 base URL,而 gpt-4o 则是其默认模型。此外,该模型还支持工具调用,这也是一个额外的好处。
遗憾的是,结果并不尽如人意。运行了几分钟后,我们收到了一个错误提示:
Caused by: java.lang.RuntimeException: Something is wrong, exceeded 100 sequential tool invocations显然,该大语言模型(LLM)陷入了工具调用循环,当调用次数超过默认最大的允许值 100 后,LangChain4j 便中断了该循环。虽然可以通过 AiServices 的 maxToolCallingRoundTrips() 方法配置这一限制,但一般而言,该默认值非常合理。实际上,同一智能体需要超过 100 次工具调用,这显然是不合理的。幸运的是,我们之前在使用比较旧或不先进的模型时曾经遇到过类似的问题。因此,我们再次进行了相同的测试,并将模型更换为更现代的 gpt-5-mini。
经过几分钟的运行后,系统输出了以下结果:
- mvn -f /tmp/buggy-calculator test -> BUILD SUCCESS, tests run: 11, failures: 0, errors: 0, skipped: 0这次,系统成功修复了 Calculator 类中的所有错误,并通过了所有测试。此外,它还将 temp 文件夹中的代码正确地修改为如下内容:
}在取得成功后,我们希望更清晰地了解下监督者智能体的执行流程。
langchain4j-agentic 1.12.2-beta22 版本中引入了一项新功能,可以让负责根智能体建模的接口继承 MonitoredAgent 接口,从而监控智能编码器的执行情况。
}通过这个界面,我们可以打印一份包含智能体调用记录以及系统拓扑结构的报告,如下图 1 所示。它清晰地展示了智能编码器的运行方式。
![]()
图 1:基于监督器的架构的系统拓扑和执行跟踪截图,由 LangChain4j 可观测性 UI 生成(图片由作者提供)
从监督器到工作流
监督者模式因其自主性而颇具价值,但这种自由也伴随着隐性的成本开销。为了探索能否让系统更高效且更可预测,我们要求代码助手采用基于工作流的方法对智能编码器进行重新设计。
在保留基于监督者的实现的同时,添加第二个实现,使其具备类似的行为,但这次采用更确定性的方式,仅使用 LangChain4j 智能体框架提供的流程模式。具体而言,生成一系列待执行的操作,尽可能复用现有的智能体,并在必要时添加审查循环。
按照要求,这次设计出了一种更具确定性的架构:一个包含五个步骤的严格序列。前四个步骤与之前的智能体类似,第五个步骤则引入了一个专用的 SummarizerAgent,它接管了此前由监督器隐式处理的摘要生成职责。规划和执行这两个步骤都不是单个的智能体;它们采用循环结构实现,这使得它们能够进行多次迭代,并在继续推进之前调整和优化工作。
}例如,执行循环由三个子智能体组成:执行器、评估器和重构智能体。这些智能体会循环调用,直到评估分数达到足够高的水平,或者达到最大迭代次数为止。在这个具体的例子中,我们将“足够好”的分数定为 80% 的准确率,这是一个较为常见且切合实际的阈值。迭代次数上限设定为 5 次,为的是防止在准确率始终无法达到 80% 阈值的情况下,产生过多的 LLM 调用和令牌消耗。
}对这一替代实现运行与之前相同的测试,结果非常相似,输出如下:
----与之前一样,智能编码器修复了所有错误,并通过了所有测试,但这次的执行轨迹显示出一种更复杂的拓扑结构,其中包含更多的智能体和边。
![]()
图 2:基于工作流的架构的系统拓扑和执行跟踪截图,由 LangChain4j 可观测性 UI 生成(图片由作者提供)
然而,尽管这次涉及的智能体数量更多,但与基于监督器的实现相比,该实现的完整调试会话版本运行速度快了三倍:仅需两分钟,而前者则需要六分钟以上。节省的时间来自监督器智能体本身带来的开销。为了协调那些智能体,它必须自主生成其他所有智能体的调用及其相应的参数。
小 结
在本文中,我们探讨了如何利用 LangChain4j 智能体框架,利用氛围编程的方法构建一个智能代码生成器,让大语言模型(LLM)自行设计并实现该系统。在此背景下,LangChain4j 智能体框架的 API 证明了其易于使用的特点,不仅使 LLM 能够自主设计并实现一个复杂的智能编码器,而且功能强大到足以让代码助手在该系统中克隆其自身的内部工作机制,从而创建了一种元智能体编码器。
我们还观察了该系统在实际调试会话中的运行情况,监控了其执行过程并可视化了其拓扑结构。结果令人印象深刻:该系统利用一种结构清晰的智能体拓扑,修复了所有错误并通过了所有测试。
最后,通过对比基于工作流的智能体实现与更自主的基于监督器的实现,本次实验展示了速度与自主性之间的权衡关系。
当效率、速度和可预测性至关重要时,应选择工作流模式。工作流模式是一种更为严格的方法。在我们的案例中,其执行速度比监督者模式快约三倍。这种效率源于消除了由大语言模型(LLM)引起的协调开销,转而依赖于确定性架构和严格的步骤序列。该模式非常适合可以分解并分阶段预先定义顺序的任务。通常,为了实现迭代优化,该模式会集成了内置的循环结构。
当自主性和动态灵活性优先于执行速度时,应选择监督者模式。监督者模式具有更强的自主性,允许主智能体在运行时自主生成智能体调用及其相应的参数来协调其他所有智能体。然而,这种自由伴随着隐性的成本开销,会导致其运行速度显著降低。
https://www.infoq.com/articles/self-building-agent-langchain4j/
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.