网易首页 > 网易号 > 正文 申请入驻

禁了AI,工程师照用不误:安全治理为何总输给影子AI

0
分享至

安全团队一纸禁令,工程师并没有停手。他们只是把AI搬到了你看不见的地方——个人账号、未经批准的浏览器插件、复制出去的API密钥、粘贴进消费级聊天工具的上下文。组织管这叫违规,工程师管这叫周二。


这个判断来自一篇讨论法律与IT治理鸿沟的文章。文章把话说得很直:封禁访问不会减少AI使用,只会让使用转移。当被批准的路径比未被批准的路径更慢,赢的永远是后者,而组织恰恰在最需要可见性的时候失去了可见性。

影子AI并不新鲜。影子IT、无人治理的云支出、接入企业网络的个人设备、员工自购的SaaS订阅,每一波都走过同一条曲线:先因为风险真实而禁止,再因为业务需求同样真实而出现沉默的不服从,最后在事故逼出问题之后补上迟到的妥协。AI只是这条曲线的最新一段,而且跑得更快——工具免费就能上手,使用的压力还来自工程师自己。

所以治理失败的关键不在工程师破了规矩,而在规矩让安全的路比不安全的路更慢。人们为截止日期做优化,审批每多等一小时,影子路径就多一分合理性。安全负责人们正在形成的共识同样直白:你无法控制你拒绝去看的东西。影子AI是比受治理的AI更糟的安全姿态——同样的数据流向同样的前沿模型,却没有代理、没有日志、没有留存条款,也没有任何脱敏的机会。

僵局底下还有一层文化落差。IT谈吞吐、延迟、参数上限,法务谈责任敞口、数据驻留、审计轨迹,双方在描述同一种风险,却用着互不相通的词汇。会议卡住不是因为哪一方错了,而是因为一种语言里的"可以",在另一种语言里就是"不行"。风险僵局是这种翻译缺口的默认结果,不是恶意,是摩擦。

摩擦有直接的解法。文章给出了三个动作。

第一,用零留存代理替代禁令。在工程师和外部模型之间放一个受治理的代理,而不是一堵墙。工程师在IDE里用上真正的前沿模型,发出的上下文经过组织控制的一层:敏感数据在离开边界之前被脱敏或令牌化,每个请求都有日志,留存条款在网络层被执行,而不是靠供应商营销页上的承诺。访问体验不变,风险画像相反——威胁模型从"祈祷没人把客户个人信息粘进消费级聊天机器人",变成"个人信息到不了供应商,因为管道会把它抹掉"。

这套做法有必须说出口的局限。代理只能保护它看得见的东西,如果被批准的路径比工程师已经用惯的消费级工具还难用,他们照样会绕过去,日志就成了虚构。脱敏的效果取决于检测规则,按身份证格式做模式匹配能抓住简单情形,却会漏掉真正暴露所在的自由文本。供应商的零留存承诺,价值等于背后合同条款的牙齿,法务还是得读数据处理协议,不能只看一页纸。做成的组织把代理当作暴露面的减少而非消除,并在政策里写明这一点——这份诚实本身,就是工程师愿意留在被批准路径上的原因之一。

第二,用分级风险替代是或否。一刀切的批准扩不了规模,一刀切的禁令不奏效,可行的中间态是风险分类框架,至少三层:

  • 公开/低敏感——已批准工具,低摩擦,默认访问
  • 内部/知识产权——受治理模型,有日志,受留存约束
  • 个人信息/健康信息/受监管数据——在代理层强制脱敏,批准用途更窄

具体分几层没那么重要,重要的是它带来的性质:一个请求能得到快速答复,而不是委员会式答复。多数停滞的治理项目,瓶颈不在风险分析,而在"可以"这两个字的延迟。做得成的框架和被人钻空子的框架,差在两个细节。一是公开的决策路径,工程师在提问之前就能从一个页面上查到自己的用例落在哪一层,自助分类让分层保持诚实,规则可见,工程师自己就会走对路,委员会只处理真正的新情况。二是为边缘情况设明确的申诉或快速通道,没有泄压阀的框架,只会训练人们故意错分类来跳过队列。

第三,设常设委员会,而不是临时签批。解开 adoption 结的组织成立了一个常设小组——AI赋能与治理委员会,每周开会,IT、安全、法务、工程坐在同一张桌子前。价值不在会议本身,而在决策按节奏产生,而不是按请求产生,并且每个决定与上一个保持一致。

有一个组成细节比看上去更重要:委员会里需要有人的职责是说"可以"。不是以把摩擦降到零为使命的合规负责人,而是以"批准所需时间"为使命的赋能负责人。缺了这个角色,委员会会漂移成它取代的那个签批队列的加强文档版。还有一个指标值得放上委员会自己的看板:从请求到决定的时间。如果受治理的访问比影子路径慢,哪怕只慢几个小时,这套框架每天都在悄悄输,而且没有任何审计会发现。

所有这一切底下压着一个多数安全组织回避的问题:如果你的工程师在向你的安全流程保密,这个流程就不只是在保护上失败,它还在教会他们隐藏才是理性选择。每一条严厉但公平的政策留住信任,每一条严厉但错误的政策,把一个工程师变成边界的沉默对手——同样的凭证,更充分的理由。治理只有一次机会成为那条快路径,之后它就会变成人们永远绕开的东西。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
被明确拒绝回英伟达后!特朗普在中国又谈黄仁勋:基调定了

被明确拒绝回英伟达后!特朗普在中国又谈黄仁勋:基调定了

游戏收藏指南
2026-11-19 17:27:13
特朗普说美国不支持“台独”

特朗普说美国不支持“台独”

每日经济新闻
2026-11-19 17:23:44
经济下行,中国股市开始不正常了

经济下行,中国股市开始不正常了

星语者056
2026-11-20 08:55:00
一个手势送走冠军,智哥要来收拾残局?媒体人:若郑智执教成都蓉城,应该能跟韦世豪之间有很好的协作!洋帅救不了蓉城!

一个手势送走冠军,智哥要来收拾残局?媒体人:若郑智执教成都蓉城,应该能跟韦世豪之间有很好的协作!洋帅救不了蓉城!

锐评利物浦
2026-11-19 18:50:57
马不停蹄!结束深圳APEC的行程,越南一把手苏林先生一行来到云南

马不停蹄!结束深圳APEC的行程,越南一把手苏林先生一行来到云南

经点星娱
2026-11-20 08:31:50
液氧乐队主唱张宇病逝,终年48岁

液氧乐队主唱张宇病逝,终年48岁

南方都市报
2026-11-20 07:51:45
姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

八怪娱
2026-11-18 09:29:26
《GTA6》性爱系统详解:教你怎么做爱做的事情!

《GTA6》性爱系统详解:教你怎么做爱做的事情!

游民星空
2026-11-20 10:05:15
高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

八八尚语
2026-11-19 10:39:30
被说"一堆白人"难夺冠,凯斯勒回应了

被说"一堆白人"难夺冠,凯斯勒回应了

温柔且自由
2026-11-20 10:02:06
37岁前归化国脚艾克森社媒晒出多张效力中超时期旧照:中国是我生命中非常特别的一个阶段,我一直珍藏着这些故事

37岁前归化国脚艾克森社媒晒出多张效力中超时期旧照:中国是我生命中非常特别的一个阶段,我一直珍藏着这些故事

极目新闻
2026-11-20 09:35:14
李在明发文:感谢中国

李在明发文:感谢中国

极目新闻
2026-11-19 22:50:01
声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

14号观星辰
2026-11-19 17:51:16
陈伟霆儿子近照曝光!何穗晒小win走路画面好温馨

陈伟霆儿子近照曝光!何穗晒小win走路画面好温馨

阿废冷眼观察所
2026-11-20 06:49:22
和合共生|“敞开让你看”:外国政要们在深圳沉浸式感受中国

和合共生|“敞开让你看”:外国政要们在深圳沉浸式感受中国

澎湃新闻
2026-11-19 18:20:41
限制已解除,日本政府身份变了,高市早苗出席晚宴,请帖发往韩国

限制已解除,日本政府身份变了,高市早苗出席晚宴,请帖发往韩国

影孖看世界
2026-11-19 23:48:44
重磅!发卡了!民主党刚刚提出移民新法案,递解令满10年失效,2021年前入境者有望获身份

重磅!发卡了!民主党刚刚提出移民新法案,递解令满10年失效,2021年前入境者有望获身份

华人生活网
2026-11-20 05:38:22
何炅携任贤齐毛不易回归!这季不淘汰只唱歌,网友:终于不卷了

何炅携任贤齐毛不易回归!这季不淘汰只唱歌,网友:终于不卷了

君笙的拂兮
2026-11-19 08:03:44
高油价,把石油自己玩死了!

高油价,把石油自己玩死了!

小怪吃美食
2026-11-20 07:08:15
没等来续约,唐斯用场均14.1篮板联盟第一回应尼克斯

没等来续约,唐斯用场均14.1篮板联盟第一回应尼克斯

日常碎碎念啊
2026-11-20 09:50:10
2026-11-20 10:31:00
硅屿手记
硅屿手记
有态度网友ytd
262文章数 88关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
健康
手机
数码
家居

房产要闻

6.6亿!海口卖地!

医生眼里"很伤腰"的椅子,很多人天天坐

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版