过去一年,AI大模型与智能体加速渗透千行百业,但数据投毒、提示注入、深度伪造等新型攻击手段层出不穷,传统安全体系承压严重,AI安全已成为所有落地项目无法回避的“必答题”。
作为长期深耕AI安全领域的产业观察者,安在于2026年初承接上海市经信委专项课题,通过厂商走访与行业调研形成AI安全产业能力图谱,并发布《2026中国AI安全产业发展调查报告》。为进一步推动成果落地,安在面向全行业征集AI安全典型案例,聚焦真实场景与落地实效,旨在树立标杆、提供选型参考。
本期案例,我们将展示悬镜安全自主研发的问境AIST智能体AI原生安全测试平台(简称:问境AIST),并邀请悬镜安全技术合伙人周幸,围绕当前AI安全全域风险痛点、悬镜AI原生安全核心技术路线、跨行业标杆落地实践、赛道差异化竞争壁垒、中长期产业发展趋势展开深度研讨,输出一线厂商实战视角与产业前瞻性判断。以下为详细内容。
![]()
![]()
![]()
![]()
![]()
案例展示:AI原生安全全链路解决方案
问境AIST——以AI治理AI,新一代智能体AI原生安全测试平台
关键词:#AI智能体安全#AI自治安全#以AI 治理 AI#AI原生安全#智能体全生命周期治理
1.目标客户分层与行业共性
(1)目标客户群体:结合国内AI 落地成熟度、业务场景差异,悬镜将目标客户划分为四大核心群体
① 在华落地的外资企业:智能体、数字员工布局起步早、落地规模大,内部Skills 插件生态完善,多对接境外大模型服务,跨境数据合规、插件权限管控诉求突出;
② 国内互联网企业:全面落地Vibe Coding AI 辅助编程、业务智能体集群,内部自建 Skills Hub,插件迭代频率高、分散管理,运行态智能体调用链路风险集中;
③ 智能制造领域(如汽车行业):智能座舱、自动驾驶车载大模型规模化部署,AI 底层模型、车载智能体直接关联生产安全与行车安全,模型后门、数据投毒风险影响人身安全;
④ 金融行业:AI 应用稳步推进,整体智能体全流程改造节奏偏保守,核心诉求集中在大模型输入输出数据合规、AI 供应链可追溯、本地化离线部署。
(2)全行业共性AI原生安全风险:
① Vibe Coding生成代码原生漏洞与合规风险:
企业依托大模型辅助研发大幅提升编码效率,但AI 生成代码依托训练语料与上下文推理产出,无内置安全校验机制,极易引入 SQL 注入、命令执行、权限绕过等高危漏洞;同时训练数据中开源代码版权、隐私数据泄露问题,带来合规处罚隐患。
② Agent 生态下插件与MCP外部服务权限失控风险
Agentic AI 时代智能体具备自主调度、多工具串联执行能力,企业大规模引入自定义 Skills 插件,通过MCP 协议对接第三方外部服务。多层级任务编排、跨工具联动使调用链路复杂度指数级增长;各业务线独立开发插件缺乏统一准入管控,后门植入、过度授权、恶意跨服务调用等风险常态化。
③ AI供应链全链路黑盒,风险传导无追溯能力
企业AI 体系由底层大模型、数据集、中间件、上层智能体、自定义 Skills、第三方 MCP 服务多层组件构成,各类组件来源、依赖关系、潜在风险无法标准化盘点,形成 AI 供应链 “不可见黑盒”。数据投毒、插件后门、框架漏洞可沿上下游链路快速扩散,且缺少全链路溯源、影响范围定位工具。
④ 传统安全防护体系能力断层,无法覆盖AI原生威胁
传统安全工具大多基于静态规则与特征匹配,对于提示词注入、Skills插件后门、AI组件投毒这类新型风险,检测能力基本处于空白状态。
(3)痛点分层特征与市场空白
① 行业共性矛盾:AI技术迭代速度快,企业初期优先关注功能落地与使用体验,安全建设普遍滞后,是全行业都要面对的发展阶段问题。
② 行业差异化诉求:合规要求高的国内企业更关注AI供应链透明度、外部大模型的数据合规与投毒风险;互联网、外资企业因内部Skills插件规模大,更侧重Skills的安全检测与治理。不同行业差异主要体现在风险优先级与治理切入点不同,底层安全痛点具备通用性。
③ 核心市场空白:传统安全工具无法覆盖AI原生风险,AI全生命周期的体系化安全测试能力缺失,AI供应链可追溯、风险闭环治理的成熟解决方案不足。
2.四大差异化技术优势支撑:问境AIST “以 AI 治理 AI” 核心解决思路
(1) 技术架构与核心技术路线
① 底层技术路线定位:区别于行业主流“传统安全工具叠加 AI 插件” 补丁式方案,问境 AIST 定位新一代智能体AI原生安全测试平台,“以AI治理AI”为核心技术理念,坚持模型驱动、智能驱动的底层技术路线,以自研安全大模型为核心底座,实现用AI 技术原生解决 AI 场景安全风险,而非在老旧安全架构上做功能增补。
② 整体架构:搭建“四大核心模块+两大支撑底座”的体系化架构,对应“3大中枢+1个底座”能力框架。
![]()
悬镜·智能体安全评估方案
a.四大核心能力模块
a)Skills安全审查:针对Skills Hub场景,提供静态+动态的安全审查能力,检测插件后门、恶意工具调用、过度授权等风险,覆盖Skills入库与调用全流程。
b)AI智能体审计:针对智能体运行过程中的提示词注入、敏感信息泄露、越权调用等风险进行持续审计,管控智能体的行为边界。
c)AI红队测试:在运行时态对AI应用进行模拟攻击,通过主动对抗验证真实风险,覆盖智能体调用、API交互等真实业务链路。
d)AI模型扫描:针对大模型底层的依赖组件、数据集、后门风险进行检测,夯实底座安全。
![]()
悬镜·问境AIST产品架构图
b.两大支撑底座:
a)悬镜自研安全专用大模型:基于基础大模型完成安全漏洞、攻击样本、合规条例专项微调,解决通用大模型幻觉、检测结果不稳定、漏洞识别精度不足问题,为四大核心模块提供智能推理支撑;
b)全生命周期数字供应链安全情报体系:沉淀多年开源组件、第三方工具漏洞运营能力,延伸构建AI 专属情报库,覆盖插件投毒、大模型框架漏洞、新型 AI 攻击手段,实现风险实时预警、资产联动处置。
(2)与传统解决方案的差异
①底层逻辑本质不同:传统工具是规则驱动,问境AIST是模型驱动、智能驱动。
②覆盖能力不同:传统方案是在原有工具上打补丁覆盖AI场景,受架构局限性限制,无法覆盖所有AI原生场景;新技术路线不仅能解决AI新场景问题,也能反向覆盖传统安全场景。
③风险闭环能力不同:传统工具难以应对AI领域快速迭代的新型风险;本方案基于自研安全大模型与情报体系,可覆盖AI全生命周期风险,实现“检测-预警-处置”的完整闭环。
(3)产品架构设计的关键考量与取舍
① 场景优先,拒绝无效功能堆砌:产品架构完全围绕四大企业刚需场景搭建——Vibe Coding 研发安全左移、企业 Skills 生态统一治理、AI 供应链资产标准化管理、线上智能体运行态主动验证,所有功能均落地真实业务需求;
② 坚持安全左移,源头降低整改成本:摒弃上线后后置检测模式,通过标准化Skills、MCP 协议将安全能力嵌入代码生成、插件提交环节,在研发源头拦截漏洞,大幅减少上线后修复成本;
③ 分层链路化风险管控:按照“底层大模型→上层智能体→Skills 插件→MCP 外部服务” 分层拆解风险,每层配套静态 + 动态双重验证,兼顾现有场景覆盖与未来技术扩展;
④ 多部署模式适配合规要求:支持对接客户自有私有化大模型,也可搭载自研安全大模型;全功能支持本地离线部署,满足金融、政企数据不出域硬性合规要求;
⑤ 轻量化无侵入接入:适配主流研发流水线、智能体管理平台标准化协议,无需大规模改造现有业务流程,不增加研发、运维额外负担。
3.落地应用场景、标杆案例与量化成效
(1) 覆盖落地行业与核心场景
① 已规模化落地:在华外资企业、头部互联网、汽车智能制造三大赛道;金融、能源、央企等强合规行业处于规模化试点阶段。
② 核心落地场景:企业Skills 插件入库自动化安全审核、AI 辅助编程生成代码全流程安全治理、线上智能体持续行为审计、AI 供应链资产(AI BOM)统一管理、AI 应用上线前红队测试验证。
(2) 代表性客户案例与效果
① 客户背景:该外资企业全域落地数字员工智能体体系,自建企业统一Skills Hub 平台,各业务部门员工可自主开发提交自定义插件,AI 应用成熟度高、插件资产体量庞大,跨境业务数据合规要求严苛。
② 核心痛点:
a.Skills 插件入库无标准化安全审核流程,插件后门、越权调用、超权限访问内部数据风险不可控;
b.AI 生成代码安全、传统业务代码漏洞、第三方组件依赖安全分属三套独立工具,治理流程割裂,运维成本高;
c.缺少全链路审计日志,无法满足境外总部及国内双重数据合规追溯要求。
③ 落地实施路径:将问境AIST的能力通过Skills与MCP的方式接入客户现有体系;在Skills Hub的入库环节增加批量安全检测,覆盖静态代码审计与动态沙箱验证;将安全能力嵌入代码提交、依赖仓库识别的研发流程中,把AI生成代码安全、传统代码安全、组件依赖安全统一到同一个治理链路里。
④ 落地效果:
a.实现插件入库100% 自动化安全校验,取消人工初审环节,插件上线安全审核效率提升 90%;
b.研发全流程安全检测由AI 智能体自主完成,无需多平台切换,平衡安全管控与研发迭代效率;
c.客户已启动二期规划,推动需求评审至业务上线全链路AI 原生安全自主治理。
⑤ 可量化指标:
a.AI 全类型风险综合检出率稳定 90% 以上,行业第一梯队;配套 AI 多层交叉校验机制,持续压低误报率,减少人工复核成本;
b.针对大模型投毒、AI 框架0day高危漏洞实现小时级风险响应,将行业平均 72 小时排查修复周期压缩至2小时以内;
c.支持7×24 小时不间断资产风险匹配,提供离线情报库本地更新、云端实时情报订阅两种模式,适配离线隔离、联网运营两类客户环境。
⑥ 规模化推广进展:根据客户的AI建设成熟度提供差异化方案——对AI应用程度高、智能体规模大的客户,提供全流程的体系化方案;对刚起步、痛点集中在某几个点的客户,先解决核心痛点,再逐步扩展能力覆盖,不做脱离客户实际的标准化硬推。
对话悬镜:解码「以AI 治理 AI」核心逻辑
Q1
切入AI原生安全赛道核心动因:当初为什么决定切入这个方向?看到了哪些市场空白或客户需求变化?
A:悬镜切入AI原生安全测试赛道,本质是观察到产业演进与安全能力之间出现了明显断层,核心体现在四个方面:
①Vibe Coding(AI辅助编程)的普及带来了代码安全新盲区。AI编程极大提升研发效率,但生成代码依赖提问上下文与大模型训练语料,本身不具备安全性保障,很多企业忽略了生成代码的漏洞风险与合规风险。
②Agentic AI时代扩展了攻击边界。智能体从辅助工具走向自主执行,企业大量引入Skills插件、通过MCP对接外部服务,多任务编排、多工具调用模式下,智能体的权限边界、调用链路复杂度指数级上升,带来前所未有的安全挑战。
③AI供应链透明度严重缺失。AI场景下企业引入的大模型、智能体、插件、服务等组件来源、依赖关系与风险状况难以厘清,形成AI供应链“黑盒”,数据投毒、插件后门等风险可沿链路快速传导,却缺乏有效的源头追踪手段。
④传统安全工具无法覆盖AI原生风险。传统安全工具基于静态规则与特征匹配,对于提示词注入、Skills插件后门、AI组件投毒这类新型风险,检测能力基本空白。
![]()
AI原生安全挑战
同时,大量客户主动提出相关需求:一方面希望用AI技术解决传统安全的效率问题,另一方面更希望用新技术解决AI应用带来的新场景问题。叠加Gartner等国际机构提出的AI Security Testing技术趋势,市场空白清晰,悬镜基于原有技术积累快速迭代,推出了问境AIST产品。
Q2
产品定义:产品在功能边界和技术路线上是如何做取舍的?为什么选择这样的架构?
A:我们摒弃在传统安全产品上叠加大模型的改良思路,选择原生自研架构,围绕 AI 应用全生命周期真实场景搭建体系化平台。
1.技术路线取舍:放弃补丁式改造,走AI 原生治理路线
(1)行业两条主流技术路线对比:
路线一:传统安全厂商,在原有代码审计、应用安全平台外挂大模型能力,通过补丁方式覆盖AI 场景;
路线二:悬镜选择路线,从零搭建模型驱动的AI 原生安全测试智能体。
(2)取舍核心逻辑:AI 安全治理覆盖大模型底座、研发编码、智能体插件、线上运行全链路,传统安全产品底层架构基于静态业务场景设计,依靠功能增补无法实现全链路无断层覆盖;而自研安全大模型驱动的原生架构,既能完整解决 AI 新场景风险,也可反向兼容传统代码、软件供应链安全需求,长期技术扩展性更强。
2.功能边界与架构选择
功能边界上,不做零散的功能堆砌,围绕AI应用全生命周期的治理需求,搭建“四大核心模块+两大支撑底座”的体系化架构。
选择该架构的核心原因是完全围绕客户四大真实场景设计:
(1)Vibe Coding研发流程场景:不选择后置检测模式,将安全能力通过Skills、MCP的方式接入代码生成过程,让安全左移到编码源头。
(2)Skills生态治理场景:针对企业内部Skills插件分散、缺乏统一安全管控的普遍痛点,将Skills安全审查作为核心能力模块。
(3)AI供应链资产管理场景:参考SBOM概念提出AI BOM,将全链路AI组件纳入资产盘点,解决供应链不透明问题。
(4)运行态安全验证场景:通过AI红队对运行中的智能体进行主动渗透测试,覆盖真实运行中的风险,弥补静态检测的不足。
![]()
悬镜·AI原生安全落地场景
这套架构完全贴合当前AI应用的主流落地形态,也符合Gartner对AI Security Testing的技术方向定义。
Q3
技术难点:研发过程中最大的技术挑战是什么?是如何突破的?
A:研发问境 AIST 主要面临场景持续迭代、通用大模型检测不稳、新型风险缺少处置闭环三大难题,我们通过分层治理、自研垂直安全大模型、搭建专属 AI 安全情报体系逐一攻克。
1. 场景边界持续扩张,产品定位易发散
(1)挑战:大模型、Agent、MCP、AI Loop 技术持续迭代,新型场景不断涌现,极易出现功能泛化、能力不聚焦问题;
(2)突破方案:复用DevSecOps、软件供应链分层治理经验,沿 AI 执行链路分层拆解风险,底层模型、智能体、插件、外部服务四层分别配套静态 + 动态双重检测能力;分阶段迭代落地,既覆盖当前全部主流场景,预留新技术形态扩展接口,实现聚焦核心赛道、兼顾长期演进。
2. 通用大模型黑盒推理带来检测不稳定、幻觉干扰
(1)挑战:安全检测对结果稳定、精准度要求极高,通用大模型输出随机性强,漏洞识别易产生幻觉误判,直接影响产品落地可信度;
(2)突破方案:放弃通用大模型直接复用路线,自主训练安全垂直大模型;基于开源基座,注入海量漏洞样本、攻击载荷、安全规范、合规条例完成专项微调,针对性解决输出波动、误判问题,构建核心技术壁垒。
3. AI 新型风险迭代快,缺少闭环响应体系
(1)挑战:AI 领域无统一漏洞编号规范,插件投毒、新型注入攻击、模型 0day 漏洞爆发无固定预警渠道,仅具备检测能力无法支撑客户风险处置;
(2)突破方案:基于多年供应链情报运营经验搭建专属AI 安全情报体系,7×24 小时全网监测新型 AI 威胁;情报与 AI BOM 资产库深度联动,资产匹配风险后自动触发告警、定位影响范围、输出标准化修复方案,形成 “检测 - 预警 - 定位 - 处置” 完整闭环,实现高危事件小时级响应。
Q4
差异化:跟市面上同类产品相比,核心差异和优势是什么?
A:悬镜依托全生命周期体系化覆盖、自研垂直安全大模型、长期沉淀的供应链威胁情报,形成三大难以复制的核心竞争力。
1. 具备行业稀缺的 AI 全生命周期体系化安全覆盖能力
当前市场多数安全方案聚焦单一防护场景(AI 代码安全、智能体运行审计等),能力较为分散,各阶段防护难以打通,容易形成安全断层。 悬镜采用一体化架构统一设计,覆盖研发阶段、插件准入、模型底座防护、线上持续运行管控、渗透测试全链路,实现各环节安全能力无缝协同,是国内少数能够完整支撑 AI 全生命周期安全治理的标准化平台。
2. 自研垂直安全大模型,兼具更高检测精度与灵活合规部署优势
市面上不少 AI 安全产品以平台整合模式为主,底层依托通用大模型,面对复杂逻辑漏洞、多轮诱导攻击识别效果有限,同时还会带来数据流转合规隐患。
悬镜搭载自研垂直安全大模型,在漏洞挖掘、多轮交互风险识别上具备更强能力;平台支持全功能本地离线私有化部署,客户数据可完全保留在内网环境,充分满足金融、政企等高监管要求行业的合规需求。
3.多年供应链情报沉淀形成不可快速复刻的风险闭环能力
悬镜深耕软件供应链安全十余年,成熟全球威胁情报体系延伸至AI 赛道,覆盖插件投毒、大模型框架漏洞、数据集污染、智能体攻击全品类威胁;情报、资产、检测、处置四大模块深度打通,轻量化对接现有业务流程,新入局厂商短期无法复刻完整情报运营与闭环治理能力。
Q5
落地验证:产品在客户侧落地过程中,客户最看重什么?
A:从大量项目落地经验来看,企业采购 AI 安全产品,优先关注风险检出实效、轻量化兼容能力、适配行业监管要求的灵活部署方案。
1.真实可落地的风险检出效果,严控误报
AI 安全已脱离概念炒作阶段,企业首要关注产品能否精准识别真实高危漏洞;海量无效误报会大幅增加研发运维复核成本,检出精度、误报控制是选型第一指标;
2.轻量化无侵入接入,兼容现有业务流水线
企业已部署AI 编码工具、智能体管理平台、CI/CD 流水线,拒绝为安全产品大规模改造业务架构;标准化协议对接、低改造、无额外运维负担是核心硬性要求;
3.部署模式灵活、满足行业合规硬性条款
本地化离线部署能力、AI BOM 资产清单标准化、权威机构安全认证、完整审计追溯日志,是金融、央企、外资企业等强合规客户的必备门槛。
Q6
生态与竞争:如何看待当前赛道的竞争格局?你们的位置和策略是什么?
A:AI 安全赛道走向细分深耕、多元共存,悬镜作为国内 AI 原生安全测试先行者,将坚持原生技术路线,持续夯实全链路纵深防御能力构筑长期壁垒。
1. 赛道整体竞争格局:
全球范围内,AI Security Testing、Vibe Coding 安全、智能体运行治理已成为应用安全领域核心创新赛道,行业从早期概念炒作进入精细化落地阶段。赛道持续细分:AI 代码安全、Agent 运行防护、AI 供应链 BOM、大模型底层安全逐步分化为独立细分赛道,长期将形成多家垂直专业厂商共存格局,不存在单一厂商垄断全场景的市场格局。
2. 悬镜赛道定位:
悬镜是国内AI原生安全测试赛道先行者,自产品立项起锚定AI Security Testing 核心赛道,搭建完整体系化能力,并非单点功能补充型厂商;目前已获得数世咨询 “AI 原生安全创新赛道领航者”、中国信通院大模型安全扫描专项认证等权威产业背书,技术路线与落地价值获得行业公认。
3. 四大长期核心竞争策略
坚守“以 AI 治理 AI” 原生技术路线,持续深化自研安全大模型在检测、防御、响应全流程的落地应用,不退回传统规则驱动老路;
持续深耕场景化能力,紧跟Skills、MCP、Agent Loop、多智能体协同等新技术形态,同步迭代对应安全管控能力,做深垂直场景而非泛化覆盖;
完善AI 全生命周期纵深防御体系,持续补齐模型采购准入、研发安全、插件管控、线上运行、事后复盘全链路能力;
持续迭代AI 安全情报运营体系,保持新型 AI 威胁小时级响应能力,持续为客户提供可量化、可落地的安全业务价值。
Q7
迭代计划:下一步的产品迭代方向是什么?如何看待这个赛道的未来趋势?
A:产品短期持续提升自主风险处置能力、跟进前沿 AI 场景、推动 AI BOM 标准化;长期来看,AI 攻防持续失衡,内生纵深防御、以 AI 对抗 AI 将成为行业必然方向。
1.短期至中期产品迭代方向
(1)从辅助安全治理向自主化风险处置升级:
将检测、研判、修复能力封装为标准化智能体与Skills组件,深度嵌入客户AI治理体系;新增多模型交叉打分、多层校验机制,在保障准确性的前提下,提升风险自主判断、自动修复处置的比例,减少人工干预;
(2)紧跟前沿AI技术形态拓展能力边界
持续跟踪AI Loop、多智能体协同等新技术的落地应用,第一时间配套对应安全检测、管控能力,同步客户业务技术演进节奏;
(3)推动AI BOM 行业标准化与合规落地
深度参与信通院、上海信安协等监管单位AI 安全标准制定,完善 AI BOM 资产要素、链路追溯、组件依赖关系标准化定义,推动 AI 资产清单从可选增值能力转变为行业合规硬性要求。
2.AI 安全产业三大中长期发展趋势
(1)AI 攻击工业化、规模化,攻防能力差距持续拉大
大模型大幅降低恶意攻击门槛,批量自动化提示词注入、数据集投毒、智能体劫持攻击将常态化;但企业AI 安全体系建设周期更长,攻防不对等的局面短期内难以扭转,纵深内生防御将成为刚需;
(2)AI 安全从外挂防护转向内生纵深防御
单一网关、插件式防护无法抵御多层联动AI 攻击,行业将复刻传统安全纵深防御思路,在模型采购、研发编码、插件准入、线上运行多环节嵌入专属安全智能体;安全能力不再是独立外挂工具,而是深度嵌入 AI 业务流程的内生基础能力;
(3)“以 AI 对抗 AI” 成为全行业统一技术共识
面对工业化AI 攻击,纯人工运营、传统规则防护完全无法承载防护需求,依托大模型对抗 AI 威胁是唯一可行路径;行业将持续攻克大模型幻觉、误判等核心痛点,通过多模型交叉校验、分层分级防御提升 AI 防御可靠性,逐步降低人工运维依赖。
AI安全防御会走向纵深防御、内生防御。面对AI驱动的规模化攻击,单靠一层防护无法抵御,未来会像传统安全的纵深防御体系一样,在AI应用的不同环节都部署对应的AI安全智能体进行校验与管控,安全能力会从外挂的“防火墙”变为嵌入AI业务流程的内生能力。
“以AI对抗AI”会成为行业共识。面对工业化的AI攻击,人工运营无法应对,最终一定是用AI技术对抗AI攻击;整个行业会持续探索解决大模型幻觉、误判的问题,通过多模型校验、分层防御等方式,不断提升AI防御的可靠性,逐步减少对人工的依赖。
用户点评:AI安全落地实效与价值验证
1. 真实痛点:甲方亟待解决的业务难题
观点一:AI 应用多重风险交织,强监管行业安全压力凸显
当前企业AI 场景多重安全风险叠加,作为强监管行业,日常安全管控痛点十分突出。企业内部已大规模落地智能体、数字员工,相关主体权限开放度较高,可自由调用外部工具与自定义插件;各业务部门为提升业务效率自主开发各类 Skills 插件,插件后门、越权调用等风险缺乏前置核查手段,一旦发生安全事件,极易引发资金损失与合规处罚。
同时研发端普遍采用AI 辅助编码,研发效率显著提升,但 AI 生成代码潜在漏洞、第三方开源组件投毒等风险难以识别,传统安全扫描工具针对 AI 衍生风险检测能力不足,存在明显防护缺口。
加之行业监管要求严格,需完整追溯AI 资产来源、依赖关系及潜在风险,现阶段 AI 供应链整体透明度不足,大模型、插件、外部服务等资产形成管理黑盒,若出现数据外泄、组件投毒等问题,难以溯源定位源头,对于高度重视数据主权的金融行业而言,相关风险隐患影响重大。
观点二:自研“以 AI 治理 AI” 新型防护体系,系统性破解行业 AI 安全共性难题
整体采用模型驱动的“以 AI 治理 AI” 技术路径,能够覆盖 AI 从编码到运行的完整生命周期,很好弥补了传统规则检测工具无法应对 AI 原生风险的短板:
1.可统筹治理大模型、智能体、Skill 插件、MCP 服务等全部 AI 供应链资产;
2.补齐了智能体、插件上线缺少安全准入校验的行业缺口;
3.打通开发与应用各阶段管控环节,将所有风险收拢至统一治理链路。
站在行业发展的客观现状来看,还有几处可持续精进的方向:
第一,目前业内暂无统一的AI BOM 标准与通用交换格式,各类资产数据难以打通融合,后续若能紧跟行业规范完善互通能力,就能更好化解资产信息孤岛问题;
第二, 金融场景存在大量深度业务逻辑风险,十分考验产品对行业业务语义的理解能力,期待落地实测后,能充分验证复杂业务场景下的风险识别深度;
第三,当前各类安全工具大多侧重风险检出,风险快速修复仍是行业普遍痛点,若能完善配套处置能力、缩短整改周期,整体治理价值会进一步提升。
观点三:四类典型AI 原生安全风险成为企业普遍顾虑
1.AI 生成代码安全隐患 :AI 辅助编程生成的代码依赖提问上下文与大模型训练语料,本身不具备安全性保障,开发在享受系统功能的迭代效率红利的同时,忽略了生成代码的漏洞风险与合规风险。
2.智能体与插件权限及后门风险:AI 时代智能体从辅助工具走向自主执行,企业大量引入各种各样的 Skills 插件、通过 MCP 对接外部服务,多任务编排、多工具调用模式下,智能体权限边界、调用链路复杂度指数级上升;企业内部 Skills 插件分散在各业务线,缺乏统一安全管控,后门、越权、恶意调用风险高。
3.AI 供应链透明度缺失 :企业引入的大模型、智能体、Skills 插件、MCP 服务等组件,来源、依赖关系与风险状况难以厘清,形成 AI 供应链 “黑盒”,数据投毒、插件后门等风险可沿链路快速传导,且缺乏有效的源头追踪手段。
4.传统安全工具无法覆盖AI 原生风险 :传统安全工具大多基于静态规则与特征匹配,对于提示词注入、Skills 插件后门、AI 组件投毒这类新型风险,检测能力基本处于空白状态。
观点四:插件、代码、供应链三类风险,是企业规模化落地AI 的核心安全顾虑
企业推进AI 规模化应用过程中,普遍存在三大安全短板:Skills 插件入库环节缺少常态化安全审核机制,AI 辅助研发产出的代码潜藏大量未知漏洞,整体 AI 供应链资产来源、依赖链路不透明形成管理黑盒,以上问题均为企业现阶段重点担忧的安全隐患。
观点五:产品直击行业共性AI 安全痛点,技术底座具备长期积累优势
产品精准直击行业共性AI 安全痛点,底层技术具备长期积淀形成的差异化优势。从完整方案来看,有效覆盖 AI 智能体、AI 供应链普遍面临的各类安全挑战。Skills 安全审查、AI BOM 资产管理、AI 红队动态渗透等核心模块并非从零建设,由悬镜成熟的代码检测、灰盒安全检测、供应链安全情报体系延伸发展而来,底层技术基础稳固可靠。
2. 差异优势:方案核心竞争力解析
观点一:重构底层技术架构,全链路体系化能力高度适配金融强合规场景
当前市场多数AI 安全产品仅在传统安全工具基础上叠加 AI 能力,底层仍依赖规则匹配机制,针对提示注入、插件后门等 AI 原生新型风险的防护有效性存疑。悬镜采用原生重构的技术架构,依托自研安全大模型实现 “以 AI 治理 AI”,从底层适配 AI 场景风险防控需求。
其中本地化部署能力极具行业价值,可实现业务敏感数据不出内网,完全匹配金融行业数据安全管控要求。产品实现AI 全生命周期一体化防护,覆盖代码研发、插件准入校验、上线动态渗透测试、AI 供应链资产盘点全流程,区别于同类产品单点防护、能力割裂的短板。同时平台打通 AI BOM 资产台账与安全情报体系,针对组件 0day 漏洞、数据集投毒等高危事件可实现小时级风险响应,精准定位受影响资产并输出标准化修复方案,能够充分满足金融行业强监管下的风险应急与合规追溯要求。
观点二:技术路线具备前瞻趋势,满足强合规行业需求
以AI治理AI的技术路线是趋向性技术跟随,面对概率性、动态演化的风险,需要同样具备语义理解和自适应能力的AI来进行有效对抗的持续测试和验证;全生命周期覆盖而非单点的堆砌或修补,契合企业系统性的治理需求;自研安全大模型+本地化部署,满足强合规客户的底线要求。
观点三:全生命周期体系设计与自研安全大模型构成核心差异
1.全生命周期场景覆盖:市面上很多厂商的AI 安全能力从单一风险点切入,再逐步向外扩展,容易出现能力断层,对 AI 供应链、Skills 插件、运行态风险的覆盖存在大量缺失。悬镜从一开始就按照全生命周期的思路设计产品,覆盖从模型引入、开发编码、部署测试到运行治理的完整流程,体系化的能力覆盖是和很多单点型产品最核心的区别。
2.自研安全大模型带来的检测深度与部署灵活性:很多同类产品只是搭建平台外壳,底层对接通用大模型做检测,落地快但检测深度不足,面对复杂上下文关联的漏洞、逻辑型风险,识别准确率和稳定性有明显短板。悬镜自研的安全大模型经过安全领域专项训练,在复杂漏洞挖掘、多轮交互风险识别、业务逻辑漏洞检测上能力更强;同时全量支持本地化部署,所有检测交互都在客户内部完成,不会带来数据外传的风险,对强合规客户至关重要。
观点四:技术路线与部署模式精准匹配敏感行业合规诉求
“以AI治理AI”的技术路线与全生命周期覆盖的体系化设计,相比传统工具补丁式方案差异明显,自研安全大模型与本地化部署能力也契合敏感类企业等强合规场景需求。
观点五:整体方案痛点匹配度高,核心能力具备扎实技术积淀,具备长期落地价值
整套方案与业务痛点匹配程度高,核心能力拥有深厚技术积累,具备可持续落地价值。方案精准直击AI 智能体、AI 供应链领域行业共性安全问题;Skills 安全审查、AI BOM 资产梳理、AI 红队动态渗透等能力,依托悬镜长期沉淀的代码检测、灰盒检测、供应链安全情报体系迭代升级,技术底座成熟稳定。现阶段尚未开展实地部署试用,待项目落地实测后,可进一步评估产品真实的风险检出与安全治理成效。
3. 落地思考:甲方选型实施重点
观点一:五大关键要素决定AI 安全产品落地成效
综合选型评估经验,即便产品技术能力突出,落地阶段若无法满足以下五项核心要求,将难以发挥实际价值。
1.风险检测效能需兼顾精准度与低误报
安全团队人员编制普遍有限,若产品产生海量无效告警,将大幅加重人工复核负担、丧失实用价值。产品需配套多层交叉校验机制,在保障检出率的同时有效压降误报,确保输出结果可信可用。
2.支持轻量化无侵入集成,适配现有业务体系
各机构均已搭建成熟研发流水线与安全运营平台,若部署产品需大规模改造现有流程、替换原有工具,极易遭遇业务侧阻力。标准化协议轻量化接入、不干扰正常业务运转,是落地基本底线。
3.合规与数据主权能力为硬性必备条件
作为持牌金融机构,日常需接受多部门常态化监管检查。产品具备等保、密评等权威资质、完整AI 资产台账与全链路审计日志,不属于增值能力,而是采购落地的基础准入要求。
4.厂商需具备同步AI 技术迭代的持续研发能力
当前AI 技术形态迭代速度快,Skills、AI Loop 等新型应用持续涌现。产品迭代同步于行业技术发展,产出稳定安全方案,避免了因方案频繁变动带来的高额人力、资金与时间成本。
5.配套完整落地运营配套支撑体系
AI 安全治理不能仅依靠工具交付,还需同步配套人员培训、标准化应急处置流程、权责划分机制。
观点二:轻量化接入与人机协同运营是落地基础
轻量化接入与人机协同运营模式,为本方案规模化落地构筑坚实基础。方案支持轻量化无侵入式接入,具备稳定的风险检出能力与可控误报水平,易于安全团队采纳应用;支持本地化部署,配套完备合规资质,高度契合金融行业监管硬性要求。产品采用能力原子化、接口标准化架构设计,既可适配企业数字化、智能化长期演进诉求,亦是方案重要差异化核心优势。
同时方案配套体系化的人机协同运营思路:依托可信校验机制支撑AI 自主研判,建议项目初期采用 “AI 初筛 + 人工复核” 协同运作模式,兼顾风险处置效率与安全管控底线。产品生态适配性良好,落地实施阶段可清晰厘清各模块与现有安全工具之间能力互补、功能重叠的边界,便于统筹存量安全平台优化调整;亦可提前预判接口开发、数据统一治理产生的改造及运维投入,支撑企业完成前期工作量与成本测算,减少落地实施不确定性。
观点三:效果、接入、合规是选型落地三大核心考量
1.是否精准检出风险、误报率低。AI 安全不是概念炒作,能真正发现问题、解决问题才是核心,大量误报反而会增加运维的负担且无法体现产品的价值。
2.接入的轻量化:产品能否兼容现有工作流。现已有各类AI 编码工具、智能体平台,不希望为了安全再装一堆插件、改一堆流程,标准化协议对接、不打扰原有业务流程在推行的时候阻力会小很多。
3.合规性与部署灵活性:数据安全与合规要求,包括是否支持本地化部署、AI BOM 清单是否符合国内标准规范、产品是否通过权威机构认证等。
观点四:落地两大现实痛点:告警质量、现有DevSecOps 体系兼容
一是误报率和检测覆盖边界;
二是评估与现有的DevSecOps的集成问题,不与现有工具冲突,不影响研发效率。
观点五:方案整体价值突出,适配企业AI 安全精细化治理需求
整套方案体系完整、落地实用性强,能够支撑企业AI 全链路精细化安全管控。结合我方实际 AI 落地现状,有几处落地适配层面的考量点:
1.内部AI 辅助编码落地实践中,AI 生成代码整体质量优于人工手写,代码漏洞风险相对可控,因此代码安全并非现阶段核心治理重心;
2.当前Skills、MCP 工具处于快速规模化普及阶段,方案采用 “统一仓库 + 安全扫描校验” 的管控模式,虽能实现风险闭环,但前置审核流程或将带来业务使用效率损耗,同步提升日常资产运维管理成本;
3.大模型训练语料、底层模型资产的管控逻辑与Skills/MCP 相近,同样存在效率与管理成本平衡的问题;
4.现阶段企业AI 落地的首要安全诉求,集中在训练、交互全流程的数据防泄露、隐私合规等数据安全领域。
观点六:坚持原生AI 安全技术路线,产品特色鲜明,可作为强合规行业 AI 安全体系关键组成单元
悬镜安全定位AI 原生安全测试智能体,采用以新技术应对新场景的发展思路,不同于在传统安全工具之上叠加 AI 能力的模式,技术路线具备前瞻价值。传统规则匹配架构难以有效应对提示词注入、插件后门、多步骤攻击链等新兴风险;产品按照底层大模型、上层智能体、Skills 插件、MCP 外部服务进行分层防护,各层级配套静态检测与动态验证,架构设计条理清晰。同时落实安全左移理念,将安全能力嵌入代码生成流程,降低对研发业务的影响,更便于落地推广。依托长期积淀的软件供应链安全情报能力延伸至 AI 赛道,形成先发优势,依靠小时级高危情报响应能力与较高检出水平,充分验证技术实力。
面向金融、政务这类强合规领域开展体系建设时,可结合行业特性做好体系化配套规划:
1.结合行业场景持续实践沉淀
当前项目案例以外资、互联网企业为主,金融行业AI 应用场景多元复杂,包含智能客服、风控模型、核保核赔等形态。后续可依托更多金融项目落地,持续打磨场景适配能力,积累行业实践经验。
2.构建多层级研判机制平衡大模型检测特性
方案基于自研安全大模型开展风险检测,大模型天然存在幻觉特性。在实际运营中可搭建分层校验流程,通过运营策略优化,持续管控误报、防范漏报,在各类复杂业务场景下稳步保障检测稳定性。
3.联动现有管理流程,补齐风险治理全链路
产品核心聚焦风险识别与检测,是风险治理链条上的关键环节。企业可结合自身管理体系,配套搭建问题整改跟踪、效果验证、风险评估等运营机制,打通从风险发现到闭环处置的完整链路。
4.搭配专业化工具覆盖全域合规诉求
方案重心聚焦技术漏洞与AI 原生安全风险识别。企业建设完整 AI 合规体系时,可配套引入数据合规相关能力,统筹覆盖个人信息合规、训练数据管控、跨境数据流转等监管要求,形成能力互补。
5.完善智能体全链路追溯运营体系
针对智能体自主执行带来的监管溯源需求,可依托产品现有审计、行为管控基础,叠加运维侧全流程行为记录能力,完整还原智能体决策逻辑、工具调用、数据访问路径,满足穿透式审计要求。
6.跟随行业标准演进同步迭代AI BOM 能力
AI BOM 是 AI 资产治理重要方向,但当前行业统一规范仍在持续发展。落地过程中可紧跟行业标准发展节奏,持续优化资产清单规范,逐步实现与监管口径对齐。
整体来看,悬镜产品在技术路线、场景防护、威胁情报层面具备突出差异化优势,高度适配AI 应用规模大、研发模式敏捷的互联网及外资企业。金融等强合规行业引入时,清晰界定工具定位,并将其纳入整体安全治理框架,协同悬镜其他安全能力统筹建设,将实现AI 安全全域管控。
观点七:AI 安全建设需兼顾新旧体系打通,避免安全能力割裂
AI 应用持续普及,攻击面与资产管理复杂度随之提升,但整体安全防护底层架构与核心逻辑并未发生根本性转变。在落地 AI 安全方案过程中,应当重点打通新旧安全体系,推动 AI 场景风险数据、检测结果与企业现有防护、分析、响应处置流程深度融合。 建设过程中需要规避 AI 安全工具与传统安全体系两套机制独立运行、形成 “两张皮” 的现象。这就要求 AI 安全方案具备良好开放性,能够顺畅融入企业现有安全运营体系,或是支持现有平台对接吸纳新增 AI 安全能力,实现统一运营。
附件下载试用体验
体验与试用:
⬇️扫码立即体验⬇️
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.