OpenAI 宣布收购 AI 安全平台 Promptfoo

3 月 9 日，OpenAI 宣布将收购人工智能安全平台 Promptfoo，并计划在交易完成后把该公司的技术全面集成到 OpenAI 的企业级智能体平台 OpenAI Frontier 中。Promptfoo 主要面向企业用户，在 AI 系统开发阶段帮助识别和修复各类安全漏洞，其工具目前已获得超过四分之一财富 500 强企业的采用，并通过开源 CLI 和库支持大语言模型应用的评估与红队测试。

OpenAI 表示，随着企业将 “AI 同事”（AI coworkers）真实部署到业务流程中，评估、安全与合规已成为基础性要求。企业不仅需要系统化的方法来测试智能体行为、在上线前发现风险，还需要在长期运维中保留清晰的记录，以满足监管、治理与问责需求。OpenAI 计划在延续 Promptfoo 开源项目的同时，把其能力深度融入 Frontier，为企业用户提供更完备的一体化解决方案。

Promptfoo 团队由联合创始人 Ian Webster 与 Michael D’Angelo 领导，其产品已经构建出一套成熟而强大的工具，用于评估与攻击模拟（red-teaming），帮助企业在规模化应用大模型时识别潜在风险。OpenAI 方面称，Promptfoo 在企业级 AI 系统评估、安全与测试方面具有深厚工程积累，其工作有助于企业部署更安全、可靠的 AI 应用，将这些能力直接纳入 Frontier 将显著提升平台整体安全水位。

根据 OpenAI 公布的信息，未来在 Frontier 平台上构建智能体的企业，将在几个核心能力上获得增强。首先，安全与安全性测试将被内嵌为平台原生能力：自动化安全测试与红队攻击功能将帮助企业识别和缓解提示注入、越狱、数据泄露、工具误用以及超出策略范围的智能体行为等风险。其次，安全与评估能力将更紧密地融入开发工作流，使团队能够在更早阶段识别、排查并修复智能体风险，把安全作为企业级 AI 系统开发与运维的核心环节之一。第三，平台将强化监督与问责能力，通过集成报告与可追溯性工具，帮助组织记录测试过程、监测随时间变化的风险状况，并满足日益严格的治理、风险与合规要求。

Promptfoo 联合创始人兼首席执行官 Ian Webster 表示，Promptfoo 的创立初衷，是为开发者提供一套务实可行的方案，用于保障 AI 系统安全。随着 AI 智能体与真实数据和关键系统的连接愈发紧密，对其进行安全防护与系统化验证的难度和重要性都在迅速提升。他称，加入 OpenAI 将使 Promptfoo 能够加速这一方向的投入，把更强的安全性、可靠性与治理能力带给正在构建真实世界 AI 系统的团队。

OpenAI 表示，对 Promptfoo 团队的加入感到兴奋，并将继续打造相关工具，帮助企业安全、可靠地部署 AI 应用和智能体系统。此次收购的完成仍有赖于惯常的交易交割条件的满足。