安全团队一纸禁令,工程师并没有停手。他们只是把AI搬到了你看不见的地方——个人账号、未经批准的浏览器插件、复制出去的API密钥、粘贴进消费级聊天工具的上下文。组织管这叫违规,工程师管这叫周二。
![]()
这个判断来自一篇讨论法律与IT治理鸿沟的文章。文章把话说得很直:封禁访问不会减少AI使用,只会让使用转移。当被批准的路径比未被批准的路径更慢,赢的永远是后者,而组织恰恰在最需要可见性的时候失去了可见性。
影子AI并不新鲜。影子IT、无人治理的云支出、接入企业网络的个人设备、员工自购的SaaS订阅,每一波都走过同一条曲线:先因为风险真实而禁止,再因为业务需求同样真实而出现沉默的不服从,最后在事故逼出问题之后补上迟到的妥协。AI只是这条曲线的最新一段,而且跑得更快——工具免费就能上手,使用的压力还来自工程师自己。
所以治理失败的关键不在工程师破了规矩,而在规矩让安全的路比不安全的路更慢。人们为截止日期做优化,审批每多等一小时,影子路径就多一分合理性。安全负责人们正在形成的共识同样直白:你无法控制你拒绝去看的东西。影子AI是比受治理的AI更糟的安全姿态——同样的数据流向同样的前沿模型,却没有代理、没有日志、没有留存条款,也没有任何脱敏的机会。
僵局底下还有一层文化落差。IT谈吞吐、延迟、参数上限,法务谈责任敞口、数据驻留、审计轨迹,双方在描述同一种风险,却用着互不相通的词汇。会议卡住不是因为哪一方错了,而是因为一种语言里的"可以",在另一种语言里就是"不行"。风险僵局是这种翻译缺口的默认结果,不是恶意,是摩擦。
摩擦有直接的解法。文章给出了三个动作。
第一,用零留存代理替代禁令。在工程师和外部模型之间放一个受治理的代理,而不是一堵墙。工程师在IDE里用上真正的前沿模型,发出的上下文经过组织控制的一层:敏感数据在离开边界之前被脱敏或令牌化,每个请求都有日志,留存条款在网络层被执行,而不是靠供应商营销页上的承诺。访问体验不变,风险画像相反——威胁模型从"祈祷没人把客户个人信息粘进消费级聊天机器人",变成"个人信息到不了供应商,因为管道会把它抹掉"。
这套做法有必须说出口的局限。代理只能保护它看得见的东西,如果被批准的路径比工程师已经用惯的消费级工具还难用,他们照样会绕过去,日志就成了虚构。脱敏的效果取决于检测规则,按身份证格式做模式匹配能抓住简单情形,却会漏掉真正暴露所在的自由文本。供应商的零留存承诺,价值等于背后合同条款的牙齿,法务还是得读数据处理协议,不能只看一页纸。做成的组织把代理当作暴露面的减少而非消除,并在政策里写明这一点——这份诚实本身,就是工程师愿意留在被批准路径上的原因之一。
第二,用分级风险替代是或否。一刀切的批准扩不了规模,一刀切的禁令不奏效,可行的中间态是风险分类框架,至少三层:
- 公开/低敏感——已批准工具,低摩擦,默认访问
- 内部/知识产权——受治理模型,有日志,受留存约束
- 个人信息/健康信息/受监管数据——在代理层强制脱敏,批准用途更窄
具体分几层没那么重要,重要的是它带来的性质:一个请求能得到快速答复,而不是委员会式答复。多数停滞的治理项目,瓶颈不在风险分析,而在"可以"这两个字的延迟。做得成的框架和被人钻空子的框架,差在两个细节。一是公开的决策路径,工程师在提问之前就能从一个页面上查到自己的用例落在哪一层,自助分类让分层保持诚实,规则可见,工程师自己就会走对路,委员会只处理真正的新情况。二是为边缘情况设明确的申诉或快速通道,没有泄压阀的框架,只会训练人们故意错分类来跳过队列。
第三,设常设委员会,而不是临时签批。解开 adoption 结的组织成立了一个常设小组——AI赋能与治理委员会,每周开会,IT、安全、法务、工程坐在同一张桌子前。价值不在会议本身,而在决策按节奏产生,而不是按请求产生,并且每个决定与上一个保持一致。
有一个组成细节比看上去更重要:委员会里需要有人的职责是说"可以"。不是以把摩擦降到零为使命的合规负责人,而是以"批准所需时间"为使命的赋能负责人。缺了这个角色,委员会会漂移成它取代的那个签批队列的加强文档版。还有一个指标值得放上委员会自己的看板:从请求到决定的时间。如果受治理的访问比影子路径慢,哪怕只慢几个小时,这套框架每天都在悄悄输,而且没有任何审计会发现。
所有这一切底下压着一个多数安全组织回避的问题:如果你的工程师在向你的安全流程保密,这个流程就不只是在保护上失败,它还在教会他们隐藏才是理性选择。每一条严厉但公平的政策留住信任,每一条严厉但错误的政策,把一个工程师变成边界的沉默对手——同样的凭证,更充分的理由。治理只有一次机会成为那条快路径,之后它就会变成人们永远绕开的东西。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.