北京
在安全运营中心，AI代理正越来越多地介入日常工作。它们能协助做事件响应、威胁狩猎、告警分类、情报收集、态势管理，甚至还能做策略分析和工作流指引。但一位前安全工程师提出的问题是——如果有一天监管机构或者法庭要求你解释“为什么当时决定放掉那条告警”，只靠“AI给的置信度很高”这种回答，恐怕过不了关。
他搞了个概念，叫“安全运营中心代理法庭”。核心逻辑很直白：以后安全运营中心不能靠AI的自信来运转，它需要的是能在法庭上站得住脚的决策。每一个由AI辅助做出的安全决策，都要能回答一串问题——支持这个结论的证据是什么？最先发生了什么？对应到MITRE知识库里的哪个攻击技术？AI当时给了什么建议？最后是哪个人审批的？
现在很多AI代理能干的事不少，比如总结事件、分类钓鱼邮件、生成检测规则、推荐处置方案，或者辅助调查。但在安全运营这个行当，速度快但没法解释的风险很大。如果安全运营中心说不清楚用了什么证据、重构出来的时间线长什么样、对应了哪项MITRE技术、生成了什么处置建议、哪位分析员复核过、最后批准了什么动作、审计轨迹怎么证明决策过程——那这个AI给出的快速答案就不够用。
微软在安全助手产品Copilot的负责任AI指引里也强调，AI的输出在被用于实际行动之前，应该先经过人工复核。放到安全运营中心的场景里，这种复核不能只是“看一眼觉得差不多”，它需要达到证据级的标准。
他提出的观点是，AI辅助安全运营中心做出的每个决策，不管是调查、分类、检测还是响应，都应该在七个层次上能站住脚：证据、时间线、MITRE映射、AI的推理过程、人工审批、审计轨迹，以及复盘总结。目标很简单——AI可以帮安全运营中心干活，但用来捍卫决策的只能是证据。
安全决策跟普通的办公生产力决策不一样。一条告警是忽略还是升级、要不要做隔离、要不要深入调查、要不要直接关闭，都会影响事件的优先级、处置决策、检测工程的调整方向、威胁狩猎的线索、给管理层的报告内容、合规状态、法律上的可辩护性、客户信任，甚至业务连续性。当AI参与到这些决策里的时候，组织必须能保留推理链条和审批过程，而“安全运营中心代理法庭”这个结构就是为了建立这样一套链条。
链条的第一层是证据。每个AI辅助的决策都得从证据开始。证据可以包括告警、事件记录、实体信息、文件、用户、设备、邮件、IP地址、域名、URL、进程、日志、查询结果、狩猎结果、检测命中情况，以及支撑性的附属产物。要回答的核心问题是：AI代理当时看到了什么？如果安全运营中心找不出AI建议背后对应的证据，这个决策就称不上可辩护。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
