Google Cloud深度解析AI智能体治理难题

当企业员工询问某款服务器的报价时，如果AI智能体无法访问内部价目表，便无从作答。然而，当这份价目表属于高度敏感的企业机密数据时，如何管控哪些智能体有权查阅，并确保它们不会滥用数据，已成为企业AI部署中最棘手的问题之一。

近日，Google Cloud智能体平台产品管理副总裁迈克尔·格斯滕哈伯（Michael Gerstenhaber）在接受《Computer Weekly》采访时，以谷歌内部一个真实案例对这一挑战进行了说明。该案例涉及两代张量处理器（TPU）硬件，内部代号分别为"Viperfish"和"Ghostfish"。

格斯滕哈伯指出，如果用户要求AI智能体计算这两代系统之间的财务换算比率，智能体无法凭空猜测，必须访问一份高度受限的内部价格表。

"这份价格表极为敏感，只有具备一定权限的人员才能查阅，"他解释道，"只有通过身份验证、权限管理、审计追踪和可观测性，我才能放心地让虚拟员工访问敏感数据——因为这正是我们对待真实员工的方式。"

扩展自主AI智能体的能力，不能仅仅依赖更智能的前沿模型，成功与否在很大程度上取决于企业在AI治理实践方面的完善程度，包括智能体生命周期管理和数据访问策略，以建立对该技术的信任。

默认安全与防止数据泄露

格斯滕哈伯建议企业在应对AI智能体安全问题时，秉持一种与人类企业责任机制相似的理念：软件必须默认安全。

"员工应当展现出良好判断力，这意味着智能体也应如此，"他表示，"如果员工恶意窃取数据，应当被追责；但即便没有恶意，数据泄露也应当极其困难。"

为此，Google Cloud部署了一套智能体网关，供管理员设置全局企业策略。这种纵深防御方案整合了专用智能体注册表、技能库以及模型上下文协议（MCP）注册表。即便某个AI智能体构建了存在缺陷的工作流，企业级策略也会介入，阻止未经授权的访问。

"如果要访问敏感数据库，你必须每次都以相同的方式进行，并确保全程受到管控，"格斯滕哈伯强调。

智能体身份与人类身份的管理差异

尽管AI智能体常被比作数字员工，但对智能体的治理与人员管理存在本质差异。格斯滕哈伯指出，将人类与智能体的管理整合到同一个操作界面中面临独特挑战，因为两者的风险特征截然不同。

"智能体可以无限扩展，而我不行；智能体不怕被解雇，但我怕，"格斯滕哈伯打趣道，"你允许它们表达判断的程度不同，这一点必须在权限设置中有所体现。"

管理这些权限级别需要严格的隔离机制。例如，AI智能体可能被授权访问某份特定的机密文件以完成特定任务，但同时被限制访问其人类上级有权查看的绝密文件。

可观测性难题

如何持续掌握智能体的决策过程，是另一项重大挑战。凭借此前在可观测性领域知名企业Datadog的工作经验，格斯滕哈伯提出利用分布式追踪技术来监控智能体的工作流。通过这种方式，管理员可以审计智能体的每一个操作步骤：选择了哪些工具、查询期间的权限状态，乃至模型内部的"思考过程"。

然而，将这些密集的遥测数据呈现给业务管理层，需要精心的界面设计。"难点在于不让解读数据的人感到困惑，"格斯滕哈伯说。举例来说，一位销售经理不应该为了了解AI助手在做什么，而不得不面对复杂晦涩的技术图表。

在安全防护层面，Google Cloud依托Model Armor保护生产环境部署。Model Armor完全在带外运行，实时监控生成预填充内容的API与推理解码输出之间的交互过程。由于它运行于构建智能体的工程师职责范围之外，可以独立防范提示注入和有害内容，不受内部干扰。

智能体或许永不需要退役

谈及企业应如何管理智能体的全生命周期——包括部署、再训练和退役时，格斯滕哈伯提出了一个不同寻常的观点：智能体或许根本无需退役。

由于驱动智能体的底层基础模型在发布后保持不变，智能体的运行行为可以持续修正，无需下线。

"你甚至不需要真正退役它，"格斯滕哈伯说。通过可观测性追踪数据，人类管理员或由大语言模型驱动的自动化"评判系统"可以标记出不良交互，并将修正内容直接反馈至智能体的记忆中。

"它会通过这种在线学习不断改进，并在运行期间将不良行为从模型中'微调'掉。即便模型本身在同一代际内训练完成，它也会变得更智能、更精准，"他补充道。

迈向"弹性智能"

受到有效治理、持续学习的智能体，其终极目标正是格斯滕哈伯所称的"弹性智能"。对于企业IT而言，这将从根本上改变工作资源的调配方式。复杂任务不再受制于人力工时的瓶颈，AI智能体让企业得以动态扩展运营能力。

"我们将原本受时间限制的事情，转化为受空间或成本限制的事情——但它可以在相同预算下无限快速地完成，"他说。

为实现这一愿景，Google Cloud正在开发新一代能力，包括即将推出的Gemini Spark个人AI智能体，该智能体专为自主运行而设计。届时，人类员工将不再需要向智能体分配细粒度的逐步任务，而是基于高层次的业务目标来进行指引。

"要做到这一点，你必须提前授予它相应权限，让它能够自主运行，"格斯滕哈伯说。一旦建立起这种信任，企业将拥有一支"永远不会感到厌倦、无需睡眠、能够全天候代替我处理大量复杂工作"的数字化劳动力。

Q&A

Q1：Google Cloud的智能体网关是什么，有什么作用？

A：Google Cloud的智能体网关是一套用于企业AI治理的安全管控工具，管理员可通过它设置全局企业策略。它整合了智能体注册表、技能库和模型上下文协议（MCP）注册表，形成纵深防御机制。即便某个AI智能体构建了存在缺陷的工作流，企业级策略也会自动介入，阻止未经授权的数据访问，从而保障敏感数据安全。

Q2：AI智能体和普通员工在权限管理上有什么不同？

A：AI智能体与人类员工的风险特征存在本质差异。智能体可无限扩展、不受解雇威胁，因此不能按照管理人类员工的方式来管理它们。在权限设置上需要严格隔离：智能体可能被授权访问某份特定机密文件以完成任务，但同时被限制访问其人类上级有权查看的更高级别文件，权限粒度须根据任务需求精确控制。

Q3：AI智能体需要定期退役或更新换代吗？

A：按照Google Cloud的理念，AI智能体或许根本不需要退役。由于底层基础模型发布后保持不变，智能体的行为可通过在线学习持续修正。人类管理员或大语言模型驱动的自动评判系统会标记不良交互，将修正内容反馈至智能体记忆中，使其在同一代模型框架内持续变得更智能、更精准，无需下线重建。