IBM发布业界首个AI智能体治理与安全软件

·全新的集成解决方案确保企业以安全、负责任的方式应用AI智能体及其他生成式AI技术。

·借助以上工具，企业可以对智能体执行“红队测试”和审计，并检测“影子智能体”等安全威胁。

随着越来越多的企业开始推动AI 智能体的规模应用，IBM 于近日推出业内首款整合了AI 安全与 AI 治理、并提供企业风险态势统一视图的软件。

该产品的新功能增强并集成了watsonx.governance和Guardium AI Security的能力，旨在帮助客户以安全且负责任的方式，实现AI技术（包括智能体）的规模应用。watsonx.governance是 IBM 的端到端 AI 治理工具，Guardium AI Security软件则用于保护 AI 模型、数据和应用的安全。

IBM 数据和 AI业务总经理 Ritika Gunnar表示：“AI 智能体有能力重塑企业的生产力，但其优势也会带来挑战。如果这些自主的系统得不到妥善的治理或保护，可能会带来严重的后果。”

本次发布的新产品包括：

AI智能体安全的集成和自动化

IBM 不断增强 IBM Guardium AI Security 与 watsonx.governance 的集成，为企业提供业内首发的统一解决方案，可同时管理与 AI 用例相关的安全风险和治理风险。该集成支持用户根据 12 种不同框架（包括《欧盟人工智能法案》和 ISO 42001）验证其合规标准的流程。

IBM 还与AllTrue.ai合作为 Guardium AI Security 打造新功能，包括能够检测云环境、代码库和嵌入式系统中新的 AI 用例，以及为去中心化的 AI 生态提供全面的可视性与保护。一旦发现安全隐患，IBM Guardium AI Security 可自动触发 watsonx.governance 中相应的治理流程。

IBM Guardium AI Security 的更新还包括自动化的“红队测试”功能，旨在帮助企业检测和修复 AI 用例中的漏洞和错误配置。为了消除代码注入、敏感数据暴露和数据泄露等风险，该功能可帮助用户量身定制安全策略，同时对输入和输出提示进行分析。上述功能已在 IBM Guardium AI Security正式上线，它们与 watsonx.governance 的集成将在今年晚些时候陆续推出。

IBM 安全和Runtime产品副总裁 Suja Viswesan表示：“AI 的未来取决于我们如何确保其安全。安全能力的构建应该从AI应用的第一步就开始，这对于企业保护数据安全、满足合规要求以及建立持久信任至关重要。”

IDC 安全与信任团队研究总监 Jennifer Glenn表示：“企业安全团队面临的最大挑战之一，就是将安全事件与违规行为转变成可量化的业务风险，AI 和AI智能体的快速引用进一步加剧了这一挑战。将 AI 治理与 AI 安全统一起来，为企业提供必要的背景信息，这将帮助他们轻松发现风险并确定优先级，更直观地看到忽略风险可能带来的严重后果。”

增强的AI智能体评估和全生命周期治理

IBM watsonx.governance可监控和管理 AI 智能体从开发到部署的整个生命周期，并直接在智能体中构建评估节点，监控回答相关性、上下文相关性和忠诚度等指标，并帮助用户找出表现不佳的根因。智能体上线的风险评估、智能体审计跟踪和智能体工具目录等新功能，预计将于 6 月 27 日推出。

即刻可用的合规能力

IBM watsonx.governance Compliance Accelerators 预置了全球各地的部分法规、标准和框架，帮助用户了解相关义务，从而调整自己的 AI 用例。这些内容涵盖了《欧盟人工智能法案》、美联储 SR 11-7 文件以及纽约市第 144 号地方法律等重要法规，以及 ISO/IEC 42001 等全球标准和 NIST AI RMF 等框架。watsonx.governance Compliance Accelerators 已作为watsonx.governance的附加组件正式上线。

为了向 AWS（亚马逊云科技）客户提供更多价值和便利，watsonx.governance 已支持在印度的 AWS 数据中心使用，包含增强的模型监控功能。

此次推出的新功能和集成工具为企业提供了制胜AI智能体时代所需的全面治理和安全能力。这些创新成果还与 IBM 更广泛的watsonxAI 解决方案联动，帮助企业以负责任和安全的方式加速生成式 AI的规模应用。