安全负责人正准备把更多权限交给AI代理。a16z近期对员工规模超过1000人的企业CISO做了一项调查,结果显示:36%的受访者表示,目前已经能接受让AI代理在低风险安全操作上自主行动。而展望12个月后,60%的人预计自己能达到这一接受度。整体来看,AI SOC(安全运营中心)是受访者为2027年排出的最高优先级事项。
![]()
推动这一转变的压力并不难理解。同一项调查中,最普遍的担忧是AI加速的攻击超出团队响应能力,55%的受访者选择了这一项。分析师的注意力是SOC里最稀缺的资源,而每一条告警仍然意味着要从多个系统里调取证据、还原事件经过,再判断它是否真的重要。
但在最高档位上,同一批受访者相当谨慎。只有1%的人能接受代理今天在大多数操作上自主行动,预计一年后能达到这一水平的也只有7%。多数团队想要更多自主权,但不是全部。
当下的讨论常把自主性描述成一根从“AI建议”滑到“AI执行”的单一滑块,正是这种框架让许多项目卡住。自主性应当是按工作流阶段、按具体操作分别做出的一组决定,做对的团队把它当成代理靠证据挣来的东西。
“我们该多信任AI”这个问题太宽泛,没法回答。研究者几十年前就给出了框架,后来被广泛应用于航空和空中交通管制。在2000年一篇被广泛引用的论文中,Parasuraman、Sheridan和Wickens提出,自动化作用于四类功能:信息获取、信息分析、决策与行动选择、行动执行。同一系统内,每类功能都可以处在不同的自动化水平,从完全手动到完全自动。
映射到安全运营,这四个阶段是这样的:
- 证据收集。查询SIEM和EDR,拉取进程树,富化指标,收集身份与云环境上下文。
- 分析与判定。关联已收集的内容,还原发生了什么,判断告警是否为真实威胁。
- 响应建议。提出下一步该做什么,比如隔离主机、重置凭据或关闭工单。
- 响应执行。真正在环境中做出改变。
这种拆分给了安全负责人更清晰的选择。团队可以大力自动化前两个阶段,因为分析师的时间主要耗在这里,而且这里的错误最容易低成本发现。同一个团队可以在第四阶段保持保守,因为一步走错就会打断业务。正如a16z报告所说,收集日志和改动生产系统是两回事。
自主性按阶段拆分之后,团队需要一种共同语言来描述每个阶段能拿到多少自主权。华盛顿大学的研究者按人类扮演的角色定义了代理自主性的五个等级。他们提出的一个观点值得每位SOC负责人记住:自主性是刻意的设计选择,与代理能力高低是两回事。一个能力很强的代理,如果风险要求,仍然可以只跑在L2。
用这个视角读a16z的数据,市场正从今天的L2左右,在一年内对低风险操作走向L4。Gartner提供了一个互补的区分:human in the loop(人类在环内)逐项批准每个操作,human on the loop(人类在环上)做战略性监督。企业在评估AI SOC厂商时,应确认两种模式都能按需应用在全部运营中。
上述等级告诉你有哪些选项,决定每个SOC操作该放在哪一级则需要一套评分标准,三个问题就能完成大部分工作:
- 可逆性。如果代理做错了,多快、多彻底能撤销?
- 影响半径。这个操作会触及多少用户、系统或业务流程?
- 证据。决策背后的证据有多强、多可验证?有取证级证据支撑的操作,比基于大模型“看起来可疑”的猜测,值得更大的自由度。
用这三个问题给真实操作打分,会得到一张多数安全团队都认得的地图。具体位置因组织而异,而这正是重点:评分标准迫使团队对每个操作做出明确决定,而不是用一条对危险操作太松、对安全操作又太紧的统一策略。
调查显示,52%的CISO希望代理只在人工批准下行动。这听起来是安全的选择,很多情况下也确实如此,但它藏着一个很少被讨论的失效模式。
人工批准的质量,取决于审批者拿到的上下文。当审批请求缺少清晰证据或标准时,审批者为了不让队列堆积,就开始一路点过去,监督悄悄消失了。如果AI塑造了每一次调查的呈现方式,那么批准最终操作的人,批准的其实是一个他从未看见形成过程的结论。只有当审批者能真正核对AI的逻辑和工作,并配上明确指向某一方向的硬取证证据时,批准才有价值。
在实践中,这意味着每个审批请求都应展示三样东西:代理收集的证据及其来源;把证据连接到判定的推理过程;代理沿途检查并排除了什么。检验它是否奏效的一个实用指标是时间:如果审批者无法在一两分钟内验证一个判定,这个审批环节就是仪式性的,团队付了human-in-the-loop的成本却没得到它。
OWASP的Agentic应用十大风险给这套做法起了名字:把最小权限延伸为最小自主权,只给代理安全、有边界任务所需的最低自主性,并让自主性随着挣得而增长。挣得自主权需要试点开始前就定好的标准,否则自主性会靠厂商承诺和直觉扩张。让某类操作升一级的实用毕业标准包括:
- 可测量的吻合度。在设定好的时间段和告警量内,跟踪代理判定与分析师复核的一致频率,阈值提前定好。
- 先做干跑。新操作先在测试模式运行,逻辑照跑但所有写入都模拟,让团队在它真正动手前看到它会做什么。
- 完整的证据链。新等级下的每个决策事后都必须可审计,包括代理看了什么、为什么得出那个结论。
- 回滚路径。扩大范围之前,先定义操作如何撤销、由谁负责。
自主性也应该往下走。吻合度下降、环境发生重大变化(比如更换EDR或云迁移)、或出现一次严重失误,都应触发降级,直到标准再次满足。只会单向棘轮式上调的团队,正在积累自己看不见的风险。
授予SOC代理的每一级自主权都有第二个效应:它提高了代理在出错、被操纵或被攻陷时能造成的破坏。安全负责人已经在整个企业范围内感受到这种风险。调查中,46%的CISO把AI代理越权行动或代理被攻陷列入五大担忧,29%提到提示注入或通过AI应用的数据泄露。与此同时,55%已在生产环境运行MCP服务器或其他代理到应用的集成,34%运行着带工具访问或写权限的自主代理。
对SOC的启示是:自主性本身就是风险因素,应与漏洞一起评分。把AI SOC代理当作一个新的特权身份来对待:给它独立身份,绝不共用凭据;把权限限定在它当前等级获批的操作上;以人类可复核的形式记录每次工具调用、查询和操作;用对待新管理员账号的同样检测手段盯着它。
从36%到60%的移动,有没有计划都会发生。想在拿到产能收益的同时避免一场让AI项目倒退一年的事故,可以从五步开始:盘点代理今天能做的每一件事,按可逆性、影响半径和证据三项打分;大力自动化调查环节,证据收集与分析占用分析师最多时间、风险最低,是全面自主最先回本的地方;对破坏性响应用真实证据把关,高影响操作保留审批,并确保每个审批请求都带有审批者可快速验证的证据;现在就写好毕业与降级标准,在试点前就准确率阈值、测试期和回滚路径达成一致;像治理特权身份一样治理代理,限定范围、记录、监控,因为它的自主性也是它的影响半径。
每个采用AI代理的SOC,最终都会对每个操作面对同一个问题:代理的工作是否足够可信,可以不经过人工检查直接执行?一个有用的思考方式是信任阈值。阈值之下,AI辅助分析师,人类仍然验证每个结论;阈值之上,团队可以安全地交出执行权,转而监督结果而非步骤。让操作跨过这条线的是深度和证明。一个能展示实际执行了什么、来自哪里、做了什么事的代理,给了人类真正可验证的东西,也给了组织扩大其自主权的可辩护理由。
这就是“挣来的自主权”在实践中的含义:代理一次一类操作地获得更多权限,每一步都有团队可检查的证据支撑,一旦证据不再成立,每一步都可回退。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.