Gartner研究副总裁孙鑫：AI Agent要被广泛使用，需要迈过这些槛

【TechWeb】3月27日消息，大模型热潮推动AI Agent应用高涨，近日，Gartner公司发布了 2025年数据和分析（D&A）的9大重要趋势，其中，就指出AI代理对于满足临时的、灵活的或复杂的自适应自动化需求至关重要。使用AI智能体进行数据分析，完成业务成果的自动化闭环具有变革性意义。

Gartner研究副总裁孙鑫（Julian Sun）在谈到AI Agent在企业数据和分析中的使用时表示，企业不能仅仅依赖大语言模型（LLM），还需要采用其他形式的分析和AI技术，多种AI技术的结合可提高AI的影响力和可靠性。

孙鑫向TechWeb表示，如今市场上有各种预构建的Agent，包括通用生产力Agent、特定任务Agent、特定业务功能Agent以及行业垂直Agent。但是，目前AI Agent的局限性在于超出特定范围后表现不佳。AI Agent被广泛使用还存以下这些障碍和困难：

可靠性问题： 当前的AI Agent依赖于像LLMs这样本身就存在不确定性的组件，且在一个Agent的工作流程中通常包含多个步骤，每个步骤都可能出错，导致错误累积，整体可靠性不高。

规划能力不足： 有效的规划是Agent的核心功能，但目前的LLMs在处理不熟悉的规划任务时表现不佳。更先进的推理模型虽然有所改善，但成本高、延迟大，难以在许多场景中应用。

成本和延迟： LLM驱动的AI Agent通常需要多次调用LLM，增加了计算成本和响应时间。复杂的Agent架构（如包含反馈循环和多Agent系统）会进一步加剧这些问题。

可解释性差： 尽管AI Agent可以提供行动解释，但其核心的LLM本质上是概率性的“黑箱”，难以完全理解其决策过程，这在需要Agent自主决策和行动的场景中是一个重要风险。

安全性风险： 由于AI Agent具有更高的自主性，因此更难进行大规模的管理和安全保障。其潜在的攻击面扩大，包括其触发和参与的事件链和交互，这些通常对人类或系统操作员来说是不可见或无法阻止的。另外潜在的风险如数据泄露、系统资源滥用、恶意活动、代码逻辑错误以及供应链风险。

期望与现实的差距： 市场对AI Agent的期望普遍较高，希望其能够处理广泛的任务。然而，现实情况是目前的AI Agent更适合处理范围较窄、较为专业的任务。这种认知差距也会阻碍AI Agent的有效应用。

特定领域的挑战： 例如在人力资源领域，由于工作流程涉及多个应用、数据孤岛以及对高准确性的要求，实现广泛应用的AI Agent面临着数据集成和系统互操作性等方面的特殊困难。

孙鑫认为，目前来看，针对特定需求和场景的专用AI Agent由于其更高的可控性和可靠性，可能在短期内更容易落地和取得实际应用。成功的多Agent系统也往往通过将流程分解为不同的任务，由更专业化的Agent来处理，这进一步支持了专业化Agent在复杂场景中的应用前景。

未来AI Agent的发展趋势，如更强的规划和推理能力、大行动模型（LAMs）、多模态模型以及神经符号AI，可能会逐步提升AI Agent的通用能力，从而推动通用AI Agent的发展。

另外，附上《Gartner2025年数据和分析重要趋势》：

趋势1：高消耗数据产品

为了充分利用高消耗数据产品，D&A领导者应重点关注关键业务用例，通过产品关联和规模化来减少数据交付方面的挑战，优先交付可重复使用和可组合的最小可行数据产品，以便让团队不断改进这些产品。同时，D&A领导者还必须在数据生产和使用团队之间就关键绩效指标达成共识，这对于衡量数据产品的成功至关重要。

趋势2：元数据管理解决方案

有效的元数据管理应先从技术元数据出发，然后扩展到业务元数据以增强上下文。通过整合各种类型的元数据，企业能够实现数据目录、数据脉络和AI用例。因此，选择有助于自动发现和分析元数据的工具势在必行。

趋势3：多模态数据编织

建立强大的元数据管理实践涉及获取和分析整个数据管道中的元数据。数据编织提供的洞察和自动化可满足编排需求、通过数据运维（DataOps）实现更卓越的运营，并最终实现数据产品。

趋势4：合成数据

识别缺失、不完整或获取成本高的数据对于推进AI行动至关重要。合成数据既可以作为原始数据的变体，也可以替代敏感数据，能够在促进AI发展的同时保护数据隐私。

趋势5：代理式分析

使用AI智能体进行数据分析，完成业务成果的自动化闭环具有变革性意义。Gartner建议尝试开发自然语言接口连接业务洞察的用例，并评估供应商的数字化工作场所应用集成路线图。同时，建立治理机制可最大程度地减少错误和幻觉，并且通过AI就绪数据原则评估数据就绪度十分重要。

趋势6：AI代理

AI代理对于满足临时的、灵活的或复杂的自适应自动化需求至关重要。企业不能仅仅依赖大语言模型（LLM），还需要采用其他形式的分析和AI技术。D&A领导者应使AI代理能够无缝访问和共享所有应用的数据。

趋势7：小语言模型

相比大语言模型，Gartner更推荐企业考虑使用小语言模型，以便在特定领域获得更加准确、更符合语境的AI输出结果。Gartner建议提供用于检索增强生成或微调自定义领域模型的数据，特别是在本地使用时，可以处理敏感数据并减少计算资源和成本。

趋势8：复合型AI

多种AI技术的结合可提高AI的影响力和可靠性。D&A团队不应局限于GenAI和LLM（大语言模型），还应整合数据科学、机器学习、知识图谱以及优化等技术，以实现全面的AI解决方案。

趋势9：决策智能平台

从数据驱动到以决策为中心的转变至关重要。Gartner建议采取的步骤包括：优先考虑急需建模的业务决策、调整决策智能（DI）实践、评估DI平台。成功的关键在于重新发掘数据科学技术并解决决策自动化的道德、法律和合规问题。（果青）