李飞飞丈夫，Salesforce首席科学家发长文，揭秘AI智能体时代！

新智元报道

编辑：英智

【新智元导读】Salesforce首席科学家Silvio Savarese深入解析AI智能体的发展方向，提出从独立任务执行到多智能体协作，再到企业级全面协调的三阶段演进路径。

就在不久前，科技界目光聚焦于一篇别具深意的文章。其作者正是Salesforce首席科学家、斯坦福大学计算机科学兼职教授——Silvio Savarese。

Savarese还有一个令人瞩目的身份——「AI教母」李飞飞的丈夫。

Silvio Savarese深入探讨了AI智能体的未来发展，提出了三大阶段的演变：从独立任务执行到多智能体协作，再到企业级的全面协调。

智能体将不仅仅是工具，更将成为提升工作效能和创造力的强大伙伴。

同时，他还深入思考了在这一激动人心的发展进程中，人类所应扮演的角色与承担的责任。

本文在不改变原文大意的情况下，编译如下：

最近，通过推出Agentforce，Salesforce正在推动企业迈向一个全新的AI赋能时代。

步入AI的第三波浪潮，借助AI智能体，人们工作起来会更有能力、更觉有趣、更富创造力。

从人才招聘到医疗保健领域，AI与人类在各行各业的合作日益广泛。这种协作不仅能快速满足大规模的需求，而且在多数情况下，比单纯的人工操作更加精准。

虽然需要些时间，但智能体无疑会在多方面优化我们的工作：提升生产力与效率，辅助战略决策，我坚信，它还能提高整体工作满意度。

无论普通员工还是高管，几乎所有企业人员都能在调配人力的同时，指挥数字劳动力。

在这个时代的发展进程中，信任和问责制至关重要。

其演进分为三个阶段：首先，专业智能体负责独立任务；接着，多智能体系统实现无缝协作；最后，企业级协调系统将彻底改变企业的运作模式。

Salesforce的AI研究团队肩负着塑造企业AI未来的使命。接下来，为大家讲讲我们对智能体发展的展望，以及人类在此过程中需扮演的角色 。

AI智能体的演变：从规则到推理

LLM是经过训练的深度学习模型，能理解文本还能生成文本。

AI智能体的发展和机器学习的进步密切相关。早期传统的基于规则的系统，比如机器人过程自动化（RPA），能精准完成一系列任务，但在应对变化时就容易出现问题。这类早期系统需要大量技术支持，还要找专业人员咨询。

过去几十年，机器处理信息的方式有了很大变化，从原来死板的自动化系统，变成了现在灵活、适应能力强又高效的学习系统。

现在，像Agentforce这样的现代平台造出的智能体，能明白具体情况，适应新变化，还能做各种任务。

而未来的发展方向更值得期待：我们将会有借助多智能体推理的自适应智能体。

这种智能体可以从周围环境中学到东西，在实际使用中不断进步，能和人类、企业客户、合作伙伴、供应商一起工作。甚至，还能跟越来越贴近人们生活的个性化AI助手配合。

现在，我们才刚开始朝着企业AI智能体发展的三个阶段迈进。

企业智能体的三个阶段

就好比音乐从简单的单音旋律，逐渐演变成复杂美妙的交响乐。AI智能体也在不断进步，从单个独自工作，变为多个智能体协同配合。

每个阶段都建立在上一阶段的基础上，为企业创造出更加丰富、更有层次的互动。

第一阶段：单个AI专家智能体

第一阶段，专家智能体聚焦特定行业，能出色完成既定任务。这给日常关键的商业运作带来了前所未有的效率和准确性。这些智能体是企业应用AI的基础。它们处理零散任务又稳又快，极大改变了部门的工作流程。

它们还能将AI的最新成果用于工作。比如，精准预测最佳行动方案，根据每位客户的偏好和行为，给出高度个性化的产品推荐。此外，不管是面向客户、服务还是销售代表（人和智能体都是如此），都能生成高质量的指导意见、营销文案和信函。

例如，在商业领域，智能体彻底改变了库存和账户管理。

智能体可不只做简单的库存检查，还会主动监控多个地点的库存状况，预测季节性需求变化，实时生成账户摘要，从中找出不寻常的模式或潜在机会。

过去，人工分析这些任务要花好几个小时，现在智能体几秒钟就能搞定，而且分析得更准、更透彻。这给零售客户带来了更优质、更个性化，甚至是神奇的体验。

服务运营也发生了类似转变。这些智能体不光能做基本的账单汇总，还会分析客户互动模式，自动对服务请求分类、排序，进而得出有关客户需求的预测性洞察。

智能体能够发现客户行为中的趋势，这些趋势可能意味着客户满意度有问题，或者存在业务拓展机会。如此一来，就为服务团队提供了实用信息，而不只是一堆原始数据。

如此一来，客户服务变得轻松又流畅。终端客户几乎察觉不到服务的存在——很多时候，他们还没意识到有问题，问题就已经解决了。

金融服务领域，智能体大大提高了客户服务效率。

确认争议时，智能体能分析交易历史，识别潜在的欺诈活动，还会自动启动相关安全协议。做财务规划时，智能体整合市场数据、客户个人历史和各类经济指标，生成全面的分析报告。

合理使用这些智能体，企业后台的运作效率会大幅提升，消费者也能体验更先进的私人银行、投资指导和财富管理服务。

第二阶段：复合智能体——无缝协作者

这一阶段，公司内部的专家智能体开始协同合作，朝着一个共同的商业目标努力。

「协调者智能体」负责组织多个专家智能体协同工作。这就好比餐厅的总经理，要把出色的接待员、服务员、经理、厨师、备餐员和配送员组织起来，大家齐心协力，赢得那个梦寐以求的米其林星级。

在复杂的商业场景中，复合智能体的表现是怎样的呢？我们来看看这个客户服务场景。

有一位忠诚的零售客户，想要更换一款过季商品的尺码。这时，多个智能体在背后默默协作。

首先，有一名前线服务代表负责处理客户最初的询问。接着，一名库存专家会去检查各个地方的产品库存情况。同时，物流智能体开始计算运输选项和时间安排。还有账单专家，认真审查客户的账户历史和支付选项。

最关键的是「协调者智能体」，它把前面这些智能体的工作成果汇总到一起，生成一个有条理、高效率，既符合品牌形象又贴合客户需求的回复。这些回复会交给前线工作人员，他们审核、完善后，再分享给客户。

当多智能体方法实施得当，「协调者智能体」为人类协调者提供服务时，能带来诸多由AI驱动的显著优势：

• 可靠性提升：系统借助专门化、可靠的智能体聚焦特定领域。由于每个智能体的工作范围较窄，这不仅提升了可靠性，还减少了幻觉现象。

• 安全性增强：采用分布式处理方式，把敏感数据的处理交给特定智能体，从而增强了安全性。

• 可扩展性强：随着需求改变，生态系统能无缝扩展。组织可不断增添新的专门化智能体，轻松拓展功能。这或许是其中最重要的优势。

在理想的最终阶段，跨组织边界的复杂智能体对智能体（A2A）交互出现了，这开创了全新的商业模式。

除了传统的企业对企业（B2B）、企业对消费者（B2C）模式外，还涌现出企业对智能体（B2A），甚至企业对智能体再到消费者（B2A2C）的交互形式。在这些新模式中，AI智能体成了工作和交易的中介。

来看一个简单的汽车租赁场景：客户的个人AI智能体与租赁公司的商业AI智能体进行谈判。

客户智能体一心争取更划算的价格和更多价值，租赁公司智能体则试图靠附加服务多赚钱。但租赁公司的智能体得拿捏好分寸，推销要积极，又不能太激进，以防生意被竞争对手抢走。

这些智能体之间的交互，需要依据复杂的博弈理论。这要求它们具备高超的谈判技巧，遵循特定的协议，能够在不确定的情况下管理风险，有可靠的信任验证机制，还要能巧妙地化解冲突。

现在，想象一下复杂的企业流程。

就拿供应链优化和客户协调这些工作来说，无论你是消费者，还是企业员工，集成式AI能让你拥有一个智能助手。这个助手可以根据你的需求和期望，处理复杂的协调工作，开展有价值的协作。

但是，要实现这个目标，我们人类还有很多工作要做。

必要条件：信任与责任

当我们部署愈发复杂的智能体系统时，每一项决策都必须遵循信任与责任这两个基本原则。

构建信任

在智能体时代，信任的内涵远不止于防范有害内容、偏见和幻觉。

Salesforce近期的研究表明，61%的客户觉得，随着AI的发展，可信度变得比以往任何时候都更加重要。我们正步入一个全新领域，在这个领域中，组织需要对人类与AI的共生关系抱有深度信任。

这种信任基于以下要素。首先是准确性和边界：AI智能体必须在明确的范围里运行，同时保持准确。

智能体的自我意识同样关键。就像一个值得敬重的同事，AI智能体得清楚自己的能力边界，明白什么时候该向人类寻求帮助。这就需要一套复杂的交接协议，保证AI和人类能无缝配合。

比如，我们的AI研究团队正在研究训练方法，教AI智能体遇到解决不了的难题时，把不确定的地方标出来，接着去寻求帮助。只要训练得当，AI就会知道什么时候不能瞎猜，而是向人类求助。

对于多智能体系统，我们还需要全球公认和广泛采用的协议。有了这些协议，协调者智能体才能安全、合乎道德地与其他企业的智能体交流、协商与合作，实现双方共同利益。这种互动得快速、高效，还得公平。

最后，随着AI智能体越来越多，我们的安全措施也得增强。

和其他技术一样，一些人也会利用AI搞破坏。他们可能会训练AI蠕虫来泄露数据，或者尝试控制其他AI智能体，曝光客户的私人数据。

强化保护、做好隐私控制以及持续进行监控，是维持信任的关键。只有建立了信任，AI才能从工具变成和我们一起成长的业务伙伴。

确保问责制

当组织开始部署能每秒做出数千个决策的AI智能体时，需要建立明确的责任和监督框架。

这样一来，一旦出现问题，我们就能有应对的办法。这要有一套周全的方案。下面讲讲负责监督智能体的管理团队该怎么做。

清晰的责任链条：AI 智能体做出重要决策时，得清楚到底谁来负责，不能有丝毫含糊。这可能意味着建立新的角色，比如「AI运维官」，他们不仅有权监管智能体的部署工作，而且在问题发生时也承担责任。

我们需要一个强大的系统，在信息不完整、有偏见、出现幻觉或者产生有害输出之前，就把问题查出来并解决掉。

这可不只是做简单的安全检查，还要持续监控智能体做出的决策，具备实时干预的能力，而且要有一套完整的审计追踪机制。

研究团队最近在检索增强生成（RAG）上有了很大的进展，这让AI系统获取和验证信息的方式有了很大改善。这些新成果能让我们快速评估和调整AI系统，确保它给出的结果既准确又靠谱。

要制定一套流程，让人类能对智能体进行监督和干预。不能只局限于「human-in-the-loop」这个简单概念，要设计出更复杂的框架，明确人类在何时、以何种方式介入智能体的决策。

在常规任务中，智能体能充分发挥自主性，而遇到重大决策时，人类的判断仍能起到关键作用 。

一旦出现错误，我们要有一套结构化应对方法。这不仅包含技术层面的回滚程序，还得明确如何与客户沟通、采取哪些补救措施，以及制定系统性改进的协议，以防止类似问题的发生。

目前，做出商业决策的自主AI智能体面临着责任界定的问题，现有的监管环境并不适用于它们。

我们需要和监管机构合作，制定合适的治理结构，明确AI智能体的责任，建立全新的法律和合规框架。

展望未来：科学方法与企业创新

要想部署真正有效的AI系统，企业高层要有长远眼光，把这些技术进步运用到实际应用中。

企业在AI应用上是否成功，不只看部署了多少AI智能体，或者实施速度有多快。关键在于企业领导和技术专家的精心规划，让AI与现有的工作流程、业务过程以及人类的工作偏好完美融合。

Salesforce在企业CRM领域摸爬滚打多年，经验丰富，很懂业务逻辑优化。我们把这些经验和知识融入到 Agentforce的部署策略里。系统不仅功能强大，在满足客户业务需求和运营人员需求方面，也做到了可靠又负责。

未来，人类和AI不再相互对立，而是携手合作，各展所长。随着Agentforce发布，智能体已经成为提升工作效能的强大助力，让团队完成以前办不到的任务。

开始这一转型的时机就是现在，就像每一次突破性实验都始于假设一样，每次成功的AI转型也都是从一个愿景开始，到最终验证成真！

参考资料：

https://x.com/silviocinguetta/status/1877166654464893035

https://www.salesforce.com/blog/the-agentic-ai-era-after-the-dawn-heres-what-to-expect/