上海
英伟达正将AI Agent安全推向基础设施层。
周一，英伟达推出Open Agent Safety Platform，通过开源软件与专用硬件构建多层安全机制，限制AI Agent的权限和行为，Anthropic则与英伟达合作，将Claude Managed Agents接入相关安全体系。
此次合作的核心是OpenShell和Claude Managed Agents。英伟达提供开源OpenShell运行时软件，为AI Agent设置默认受限的执行环境；Anthropic则提供Claude Managed Agents，并通过凭证保险库等机制管理Agent权限。
双方希望在企业部署AI Agent时，进一步控制其能够访问的数据、工具、网络和系统资源。
英伟达还推出运行在BlueField-4 DPU上的Sentry安全层，可以独立于Agent运行环境持续监控其行为，并在发现越权操作时进行隔离。英伟达称，Sentry能够在毫秒级阻断可疑Agent活动。
英伟达称此次推出的安全软件可能阻止近期发生的一起Hugging Face相关事件。英伟达方面表示，如果当时使用相关技术，根据公司目前掌握的信息，该平台可能阻止相关事件。
英伟达为AI Agent加上“安全围栏”
Open Agent Safety Platform主要由OpenShell和Sentry两层组成。
其中，OpenShell是一套开源Agent运行时软件，通过沙箱和权限策略限制Agent的活动范围。英伟达表示，该系统可以控制Agent对文件、网络、进程、工具和凭证等资源的访问，并默认阻止未经授权的操作。
Sentry则将安全控制进一步延伸至硬件层。该系统运行在英伟达 BlueField-4 DPU上，与运行AI Agent的主机环境相对独立，可以持续检查Agent的请求和响应，并对数据、工具、API和服务进行访问控制。
英伟达表示，如果Agent试图突破既定的软件边界，Sentry可以对其进行隔离。相比单纯依赖模型自身遵守安全规则，这一架构增加了额外的运行时和硬件防护层。
Anthropic将Claude接入
Anthropic此次参与的重点是Claude Managed Agents。
Claude Managed Agents能够将Agent运行循环放置在独立服务器上，并与执行具体任务的沙箱环境分开。在此基础上，该服务与OpenShell及BlueField进行整合，为企业提供更细致的Agent权限控制。
Notion、Rakuten和Asana等企业已经在生产环境中使用Claude Managed Agents。
这意味着，企业部署Claude等AI Agent时，可以在模型之外增加一套独立的安全控制机制。Agent可以继续自主执行任务，但其能够访问哪些资源、使用哪些工具，以及出现异常时是否继续运行，都可以通过额外的软件和硬件层进行限制。
英伟达瞄准AI Agent安全需求
此次发布也发生在AI Agent安全问题受到更多关注之际。
英伟达创始人兼CEO黄仁勋表示，随着AI能力不断发展，AI安全能力也需要同步推进，并称AI安全需要“全栈工程”。
英伟达此次并没有把安全能力局限于某一个AI模型，而是将其延伸到Agent运行时、服务器以及网络和计算基础设施。对于企业而言，这意味着AI Agent的安全边界可以从模型本身进一步扩展至执行环境。
目前，超过100家机构参与相关技术。除Anthropic外，英伟达还披露，SpaceXAI正在将相关平台用于Cursor coding agents和Grok模型，Salesforce和SAP也在推进OpenShell相关整合。
随着AI Agent从聊天工具逐步转向能够调用工具、访问数据并自主执行任务的企业软件，围绕Agent权限、隔离和实时监控的基础设施需求也在扩大。
英伟达此次推出开放式安全平台，并与Anthropic等AI厂商展开合作，正试图将这类安全能力纳入AI基础设施体系。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
