国内首发！智能体安全管理平台发布，助力AI应用安全落地

（原标题：国内首发！智能体安全管理平台发布，助力AI应用安全落地）

大模型的广泛应用，加速智能体爆发。Gartner《2025年十大战略技术趋势》报告指出，智能体领域市场规模预计将在2024-2030年显著增长。为助力企业智能体安全、合规落地，火山引擎正式发布大模型安全测评平台和智能体安全管理平台，全面保障智能体从开发、备案到上线运行的全生命周期安全。

大模型安全测评平台可以通过攻击视角对智能体进行专项“体检”，并结合TC260标准，帮助企业完成大模型合规备案与上线。智能体安全管理平台则提供“资产盘点—漏洞和风险评估—加固与持续防护”三方面能力，是国内首个实现对智能体资产风险管理和提示词加固的产品。

智能体“深度体检”：更多维度更全面测试样本

在应用过程中，智能体常常面临模型输出异常、数据泄露等安全风险。基于TC260《生成式人工智能服务安全基本要求》等大模型安全标准和火山引擎大模型安全样本库，火山引擎大模型安全测评平台作为一站式测评平台和服务，可针对大模型应用和智能体展开攻防测评。平台具备以下测评能力：

•基于TC260标准和专业攻防团队的大模型安全样本库，覆盖5大类31项安全检测项。

•基于智能体的“身份”与“意图”进行精准安全测评，采用AI自动生成多轮对话测试用例（非通用测试用例），精准识别有害内容、提示词攻击等风险；

•最快30分钟内完成智能体深度检测，输出修复建议与合规报告；

•满足轻快体检、快速备案、高阶安全检测等多样化场景需求。

智能体安全管理：全面掌控智能体安全态势

相较于大模型的固有风险，智能体因其具备主动执行能力，对其输入输出的合规性需要进行实时监控。与此同时，由于智能体集成了MCP、知识库等多种组件，资产盘点难度增大，并且业内针对MCP及智能体漏洞的跟踪和防护机制尚未完善，使得企业安全风险指数级增加。

针对以上难题，火山引擎智能体安全管理平台作为面向智能体全资产、全生命周期的一体化监控管理方案，具备三大核心能力，有效帮助企业构建智能体安全平台：

•资产全量盘点，安全风险全面掌控：全面梳理智能体相关核心组件，包括模型、MCP、第三方工具、知识库等，实现资产类型清晰、全量可发现。

•漏洞与风险评估，AI红队持续主动检测：基于智能体配置（如系统提示词、功能设定）识别其意图，生成定制化扫描策略，完成漏洞与风险评估。智能体上线前后，均可使用AI红队攻防测评实现持续安全评估，并可采用多轮对话形式，挖掘智能体潜在风险，提升智能体安全水位。

•国内独家提示词加固，智能体运行时防护：针对识别出的提示词攻击等风险，平台可直接提供加固后的系统提示词。在运行阶段，可实时检测MCP、工具调用行为，结合智能体意图精准识别并快速拦截攻击行为，有效防范提示词注入、有害内容输出及敏感数据泄露等。

落地实践：安全合规顺利上线，攻击拦截率达99%+

目前，火山引擎大模型安全测评平台和智能体安全管理平台已在汽车、金融等行业多个客户落地，有效保障企业智能体全生命周期安全管控。

在汽车大模型落地场景中，在合规备案的基础上，平台同时要保障智能客服上线后的合规运营。火山引擎大模型安全测评平台基于TC260标准进行针对性测试，快速识别并加固风险项，让汽车智能客服按时完成备案上线，在合规检测中实现内容合格率99%，应拒答率指标100%满足。

在金融行业场景，火山引擎智能体安全管理平台帮助客户实现了几十款智能体从开发到运行的全流程安全管理，并通过红队攻击及持续安全评估，不断提升业务安全水位。数据显示，经平台加固后，智能体风险项从200项降至5项，攻击拦截率达99%+，有效提升金融客户AI-App 安全防护能力，为C端用户提供更高级别的安全服务。

火山引擎将持续构建以智能体应用为核心的安全防护方案和服务，为企业在智能体落地浪潮中，提供合规、可控、安全的智能体。