为什么说智能体是生成式AI的下一个前沿领域？

文章来源丨麦肯锡公司：Lareina Yee、Michael Chui、Roger Roberts 和 Stephen Xu，慎思行采编翻译

个人微信丨hello_SSX

在过去几年里，生成式人工智能（Gen AI）所释放出的能力和可能性令世人惊叹不已。大型语言模型（LLMs）等基础模型可以在文本、音频、图像和视频等多种媒介中提取洞察并生成内容，工作表现令人印象深刻。但是，生成式人工智能的下一阶段可能会更具变革性。

我们正从基于知识的生成式AI工具——例如回答问题和生成内容的聊天机器人——向生成式AI驱动的“智能体”演进，这些智能体利用基础模型在数字世界中执行复杂的多步骤工作流程。简而言之，技术正在从“思想”转向“行动”。

广义上讲，"智能体"系统指的是能够在动态世界中独立互动的数字系统。虽然这些软件系统的版本已经存在多年，但是生成式AI的自然语言能力展现了新的可能性，使系统能够规划行动、使用在线工具完成任务、与其他智能体和人类协作，并通过学习改善表现。生成式AI智能体最终可能成为熟练的虚拟同事，以无缝且自然的方式与人类合作。例如，虚拟助手可以规划和预订复杂的个性化旅游行程，处理多个跨平台的物流。工程师可以使用日常语言向程序员智能体描述新的软件功能，然后智能体会编写代码、测试、迭代并部署它帮助创建的工具。

传统上，智能体系统很难实现，需要基于规则的繁琐编程或机器学习模型经过高度疼的训练来实现，Gen AI改变了这一点。

当智能体系统使用基础模型（这些模型在极其庞大且多样的非结构化数据集上进行了训练）而不是预定义规则来构建时，它们就有可能以类似于LLMs的方式对未经明确训练的提示做出智能回应，适应不同场景。此外，人类用户可以使用自然语言而不是编程代码，指挥Gen AI智能体系统完成复杂的工作流程。

然后，多智能体系统可以将这一工作流程解释和组织为可执行的任务，将工作分配给专门的智能体，使用数字工具生态系统执行这些细化任务，并与其他智能体和人类合作，不断改进其行动的质量。

在本文中，我们将探讨使用Gen AI智能体所带来的机遇。尽管该技术仍处于初级阶段，在商业部署之前还需要进一步的技术开发，但它正在迅速吸引关注。仅在过去一年，谷歌、微软、OpenAI 等公司就已投资于支持智能体功能的软件库和框架。由LLM驱动的应用程序，如微软Copilot、亚马逊Q和谷歌即将推出的Project Astra，正从知识型向行动型转变。Adept、crewAI 和 Imbue 等公司和研究实验室也在开发基于智能体的模型和多智能体系统。鉴于Gen AI的发展速度，智能体可能会像今天的聊天机器人一样普及。

智能体能为企业带来什么价值？

智能体所能释放的价值，源于其自动化处理大量复杂用例的潜力——这些用例通常具有高度可变的输入和输出，并且长期以来一直难以通过减少成本或时间的方式解决。以看似简单的商务旅行为例，它可能涉及涵盖涉及不同航空公司和航班的多种可能行程，更不必说酒店会员奖励计划、餐厅预订和休闲活动安排，所有这些都必须在不同的平台进行处理。虽然部分流程已经实现了自动化，但大部分仍需手动完成。这在很大程度上是因为潜在的输入和输出差异很大，导致整个流程过于复杂、成本过高或时间过长，难以实现自动化。

Gen AI驱动的智能体可以通过以下三种重要方式简化复杂和开放式用例的自动化：

1. 智能体可以处理多样性管理

许多商业用例和流程都具有线性工作流程的特点——明确的起点、一系列导向特定解决方案或结果的步骤。这种相对简单的特点使其很容易通过基于规则的系统编码和自动化。但基于规则的系统往往表现出“脆弱性”，即当遇到规则设计者未明确考虑的情况时，系统就会崩溃。例如，许多工作流程的可预测性要低得多，充斥着意想不到的波折和多种潜在结果；这些工作流程需要特殊处理和细致判断，这使得基于规则的自动化极具挑战性。

但是，Gen AI智能体系统基于基础模型构建，能够针对特定用例应对各种低概率场景，实时动态调整，以执行完成流程所需的专项任务。

2.智能体系统可以通过自然语言指令驱动

目前，要实现一个用例的自动化，首先必须将其分解为一系列可编码的规则和步骤。这些步骤通常要转化为计算机代码，并集成到软件系统中——这一过程通常既费钱又费力，还需要大量的专业技术知识。由于智能体系统以自然语言作为指令形式，即使是复杂的工作流也能更快、更轻松地实现编码。更重要的是，该流程可能由非技术人员（而不是软件工程师）完成。这不仅便于整合领域专业知识，还拓宽了使用Gen AI和AI工具的普及范围，同时简化了技术与非技术团队之间的协作。

3.智能体系统能够与现有软件工具和平台协同工作

除了分析和生成知识，智能体系统还可以使用工具并在更广泛的数字生态系统中进行交互。例如，可以指导智能体与软件应用（如图表绘制工具）协作、在互联网上检索信息、收集并整合人工反馈，甚至调用其他基础模型。数字工具的使用既是智能体的核心特征（这是智能体在真实场景中产生实际行动的方式之一），也是Gen AI能够得以发挥独特作用的途径。基础模型能够学习如何通过自然语言或其他接口与工具交互。如果没有基础模型，这些能力将需要大量的手动工作来集成系统，例如使用ETL（提取、转换和加载）工具），或通过繁琐的人工操作来整理不同软件系统的输出结果。

Gen AI智能体如何工作？

智能体系统能够支持跨行业和业务职能部门的高复杂度用例，尤其适用于涉及耗时任务或需要多种专业定性和定量分析的工作流。其核心能力在于通过递归方式分解复杂流程，并基于专项指令和数据源执行子任务，以达成最终目标。这一流程通常遵循以下四个步骤：

1.用户指令输入

用户通过自然语言指令与AI系统交互（类似对可信赖的员工下达任务）。系统识别目标用例，并在必要时要求用户进一步说明需求。

2.智能体系统规划、分配和执行工作

智能体系统将指令处理成工作流程，分解为任务和子任务，并由管理型子智能体分配给其他专业子智能体。这些子智能体依托领域知识、工具，先前 "经验 "和已编码化的专业知识，协同调用组织数据与系统来执行这些任务。

3.智能体系统不断改进输出

在整个过程中，智能体可能会要求用户补充输入，以确保准确性和相关性。最后，智能体系统会结合用户反馈迭代优化，直至提供最终输出结果。

4.智能体执行操作

智能体在实际操作中执行所以的必要行动，以彻底完成用户请求的任务。

可能性探索：三大潜在应用场景

这类系统对企业意味着什么？以下三个假设性用例揭示了不远的将来的可能图景。

用例 1：贷款核销

金融机构需通过撰写信贷风险备忘录来评估向借款方提供信贷或贷款的风险。这一过程涉及收集、分析和审核与借款方、贷款类型和其他因素相关的各种类信息。由于信贷风险评估场景多样且需多维度分析，该流程往往耗时且高度依赖协作——客户经理需与借款方、利益相关方和信贷分析师合作进行专项分析，然后提交给信贷经理进行审核并补充专业意见。

基于智能体的潜在解决方案：一套由多个智能体组成的系统（每个智能体都承担特定任务角色），可设计用于处理广泛的信用风险场景。用户可通过自然语言输入高层级的工作计划，明确规则、标准与条件。随后，智能体团队会将工作拆解为可执行的子任务。

例如，一个智能体可以扮演客户关系经理的角色，处理借款方与金融机构之间的沟通事宜。执行智能体可以整理必要的文件，并转发给财务分析智能体，后者将分析现金流量表中的债务数据，并计算相关财务比率，随后由审核智能体进行审查识别矛盾并提供反馈。这种分解、分析、优化和审核的过程会不断重复，直到最终完成信贷风险备忘录。

与传统的生成式AI架构不同，智能体系统可以生成高质量的内容，将审核周期缩短 20% 至 60%。智能体还能跨多个系统，整合多来源的数据。最后，智能体可以展示其工作过程：信贷分析师可以快速追溯生成的文本或数字，访问完整的任务链及数据来源，从而高效验证输出结果的可靠性。

用例 2：代码文档和现代化改造

大型企业的遗留软件应用程序和系统往往会带来安全风险，并可能减缓业务创新的步伐。但实现对这些系统的现代化改造过程复杂、成本昂贵且耗时费力，需要工程师审查和理解数百万行的旧代码库和业务逻辑的手工文档，然后将这些逻辑迁移至更新后的代码库，并与其他系统进行整合。

基于智能体的潜在解决方案：AI智能体有望大大简化这一流程。

可以部署一个专门化的遗留软件专家智能体，通过分析旧代码实现文档化处理和代码片段的记录与翻译。与此同时，质量保障智能体可以审核这些文档并生成测试用例，帮助AI系统迭代优化其输出结果，确保其准确性和对组织标准的遵从性。

此外，这种可重复的流程还将产生飞轮效应，即智能体框架的组件可在整个组织的其他软件迁移项目中重复使用，从而显著提高开发效率并降低软件开发的总体成本。

用例 3：创建在线营销活动

设计、启动和运行在线营销活动往往涉及一系列

不同的软件工具、应用程序和平台。在线营销活动的工作流程也非常复杂：企业需要将业务目标和市场趋势转化为富有创意的营销理念；针对不同客户的细分市场和地域定制文字和视觉素材；还需通过不同平台的用户群体测试活动效果。为了完成这些任务，营销团队通常需要使用多种形式的软件，并将产出从一个工具迁移到另一个工具，这一过程往往繁琐且耗时。

基于智能体的潜在解决方案：智能体可以帮助连接这个数字营销生态系统。例如，营销人员可以用自然语言描述目标用户、初始创意、目标渠道和其他参数。然后，在营销人员的协助下，由智能体系统帮助开发、测试和迭代不同的营销活动创意。数字营销战略智能体可以利用在线调查、客户关系管理解决方案中的分析结果，以及其他市场研究平台来收集洞察，借助多模态基础模型制定战略。然后，内容营销、文案撰写和设计智能体可以创建定制化内容，并由人工审核员评估其品牌契合度。这些智能体将合作迭代和完善产出内容，并朝着既能优化活动影响又能最大限度降低品牌风险的方向努力。

领导者应如何为智能体时代做好准备？

虽然智能体技术刚刚起步，但随着对相关工具的持续投资，智能体系统有望在未来几年实现重大突破并大规模部署。

因此，企业领导者现在开始深入了解智能体技术，并考虑是否可以借助智能体系统来加速一些核心业务流程或战略目标，时机正好。这种了解可以为未来的路线图规划提供依据，帮助企业在创新浪潮中保持竞争优势。一旦明确潜在用例，企业就可以通过API、工具包和库（例如，微软 Autogen、Hugging Face 和 LangChain）探索不断发展的智能体环境，逐步筛选适配自身需求的解决方案

为迎接智能体系统的到来，企业应重点关注以下三个因素，这些要素将决定此类系统能否充分发挥其潜力：

1. 相关知识的系统化编码

复杂用例的实施要求企业定义业务流程并文档化为结构化工作流程，用于培训智能体。同时，企业需思考如何将专业知转化为自然语言指令，从而通过智能体简化复杂的流程。

2.战略性技术规划

企业需重新梳理数据和 IT 系统架构，确保智能体系统能与现有基础设施有效对接。这包括采集用户交互数据以获得持续反馈并优化模型，以及构建灵活的技术框架以便在不干扰现有运营的情况下整合新兴技术。

3. 人机协同控制机制

当AI智能体开始与现实世界互动时，控制机制对于平衡自主性和风险至关重要（见 "理解智能体系统的独特风险"）。人类必须验证输出的准确性、合规性和公平性；与领域专家协作维护和扩展智能体系统；并建立持续改进的学习飞轮。企业应尽早明确人机协同机制的适用场景与部署方式。

了解智能智能体系统的独特风险

众所周知，当前的大型语言模型（LLMs）存在错误和“幻觉”问题。由于智能体系统处理的是 LLM生成的连续输出序列，若缺乏保护措施，单个输出中的“幻觉”可能产生连锁反应。此外，由于智能体系统被设计为自主运行，企业领导者必须考虑额外的监督机制和防护措施。虽然很难完全预测智能体机构会带来的所有风险，但以下是一些应该考虑的风险。

01

潜在有害输出：大语言模型的输出并非总是准确，可能会提供不正确的信息或执行具有不良后果的操作。随着生成式人工智能（gen AI）智能体在千变万化的场景中独立使用数字工具和数据执行任务，此类风险也随之加剧。例如，智能体可能会批准一笔高风险贷款，从而导致经济损失，也可能会代表客户进行不可退款的高额消费。

缓解策略：企业应实施强有力的问责机制，明确界定智能体与人类的责任边界，并确保智能体输出结果的可解释性。具体措施包括：

• 开发框架管理智能体的自主权：例如，根据用例的复杂度限制智能体的行动范围。

• 确保人工监督：例如，在执行前验证智能体的输出，并对智能体的决策进行定期审核。

• 构建透明度和可追溯性机制，帮助用户了解智能体的决策过程，及早发现潜在的问题

02

工具滥用风险：智能体能够访问工具和数据，如果被故意滥用，可能会引发危险。例如，智能体可能被用来编写易受攻击的代码、制造仿真的网络钓鱼骗局或窃取敏感信息。

缓解策略：针对高风险场景，企业应建立防护机制（例如设置访问控制与操作权限限制），并为智能体创建封闭的环境（例如限制智能体的可访问的工具与数据源）。此外，企业还应对智能体活动进行实时监控，对可疑行为自动发出警报。定期开展审核合规性检查，确保防护机制持续有效。

03

人机信任失衡问题：正如人类与同事之间的关系一样，人类与AI智能体之间的互动也建立在信任的基础上。如果用户缺乏对智能体系统的信任，可能减少必要的人机交互与信息共享，阻碍智能体系统的学习优化。反之，随着智能体越来越擅长模仿人类的行为，部分用户可能过度信任智能体智能体，赋予其人类水平的理解力和判断力，导致用户不加批判地接受建议，或在没有充分监督的情况下给予智能体过多的自主权。

缓解策略：组织可以通过提升智能体决策的透明度来管理这些问题。在此过程中，我们需要确保用户接受了负责任地使用智能体的培训，并建立人机协同流程来管理智能体行为，人工监督智能体程序是确保用户保持平衡视角的关键所在。此外，通过关键绩效指标（例如，客户满意度、票据的成功完成率）评估智能体效能，并保留智能体行动的最终权力和责任。

除上述风险外，企业还应关注Gen AI智能体引发的更广泛问题：

• 价值观一致：由于智能体与同事关系密切，他们的行为应体现组织的价值观。智能体应在其决策中遵循哪些价值观？如何对通过定期评估和培训确保价值观对齐？

• 劳动力结构转型：通过独立完成任务，智能体系统将极大地改变完成工作的方式，从而有可能让人类更加专注于需要批判性思维和管理技能的高层次任务。各业务职能部门的角色和职责将如何转变？如何为员工提供再培训机会？是否有新的合作模式可以加强人机协作模式？

• 拟人化风险治理：随着智能体的拟人化程度提升，用户可能会产生过度依赖，或误以为AI助手完全符合自己的兴趣和价值观。智能体应融入多多少人类特征？可以创建哪些流程来实时检测人机交互中的潜在危害？

麦肯锡最近的《人工智能现状 》调查显示，超过 72% 的受访企业正在部署AI解决方案，而且对Gen AI的兴趣与日俱增。在此背景下，企业将AI智能体等前沿技术纳入其战略规划和未来AI路线图已是大势所趋。智能体驱动的自动化展现出革命性的潜力，有望以全新行动速度重塑工作模式。

尽管如此，这项技术仍处于早期阶段，其全部功能的释放尚需持续开发。系统复杂性和自主性的不断提高，会带来一系列挑战和风险。若将AI智能体视为团队中的“新成员”，正如人类员工需要磨合一样，企业在信任智能体独立运作前，必须投入大量测试、培训和指导。然而，即便在技术萌芽期，我们也不难预见新一代“虚拟同事”可能释放的广阔机遇。

编辑 | Jiaru

清流学苑2025Q1课程安排

我们也将在3月29~30日在上海推出我们的清流学苑的新晋课程《关键洞察营》，欢迎感兴趣的朋友扫码了解和报名。

进一步交流

进入专业社群展开深度讨论

慎思行通过微信等平台覆盖超过10万战略人、咨询人等各类专业人士。我们也构建了专业社群，推动战略与咨询领域的问题讨论、信息交流和机会分享，社群已有超过5年历史，并成为了顶尖专业人士感知市场前沿，获得实践经验的首要选择。入群请添加慎思君微信，并提供名片。

现在微信公众号更改规则，如果你不特地点进来，很可能看不到我们的推送了。希望喜欢【慎思行】的读者朋友们将本号【设为星标★】，方便找到我们；也欢迎点击右下角的【在看】。

＞企业应用AI智能体的前景与现实

＞AI能帮我们获得洞察和解决问题吗？

＞AI将如何改变战略？