同一家公司的AI使用状态,高层和员工给出了截然两样的账本。
管理层这边,90%的高管对组织内部的AI工具可见性充满信心;员工这边,却只有52%的人承认在未经批准的情况下使用AI,而且常常是借着个人账号悄悄调用。两边的数字一摆出来,中间近40个百分点的落差,指向了一个并不让人轻松的事实:很多组织正在同时经历两种截然相反的叙事——上面以为一切尽在掌握,下面早已绕过了正式通道。
![]()
这就是所谓“影子AI”的典型现场。它并不是某个神秘黑客的外部攻击,而是员工为了更快、更有效地完成工作,自发地使用组织批准框架之外的AI工具。需求驱动在前,治理跟进在后,当后者跟不上前者,组织就会迅速失去对数据流向和潜在风险的可见性。
影子AI从哪冒出来
要理解问题,得先回到一个最简单的驱动力:效率。
AI正在快速嵌入现代工作场所,员工越来越习惯让AI工具代劳一部分工作,从起草、摘要到分析,都希望能在更短的时间里处理更多任务。当内部提供的AI能力不够顺手、不够快,或者审批流程过于繁琐,个人账号就成了最方便的替代选项。一次两次的“临时借用”累积起来,就形成了组织视线之外的AI使用潮。
值得注意的是,这里的盲目区并不等于员工纯粹的不配合。员工想要的是解决手头问题,而不是跟制度作对。但制度以“批准”作为分界线,一旦工具在界线外运行,风险就脱离了管控。Qlik的EMEA Field CTO在分析这一现象时,点出的正是这样一个关键落差:AI采用的规模在扩张,AI治理的步伐却没有同步跟上,两者之间的距离正在被拉大。
90%对52%,两本账之间的真实含义
这两个数字之所以值得摆在一起看,是因为它们衡量的是同一个问题的两个侧面。
高管眼中的“可见性”,指向的是正式采购、正式部署、正式登记的AI工具。他们看到的是IT部门报上来的清单,是经过安全评估和合规检查的那一部分。而员工口中的“未经批准使用”,指向的是清单之外、个人账号之内的那一部分。两者拼接起来,才是一个完整的组织AI使用图景。
换句话说,90%的自信并不等于真实的覆盖率。它更像是在被治理范围内的高可见性,而治理范围之外的活动,恰好被盲点遮住了。52%这个数字还可能被低估,因为它本身就依赖于员工的主动承认。那些出于谨慎、顾虑或根本不想卷入麻烦的人,未必会如实报告自己的使用情况。
组织面临的,因此不是一个简单的违规问题,而是认知层面的断层:上面看到的是一张干净的AI地图,下面却已经自发地长出了一片不被标记的区域。治理若只覆盖地图上的部分,风险自然集中在看不见的地方。
当AI走到业务关键环节
影子AI的风险,并不只在员工写写邮件、做做翻译这些边缘场景里。
当AI开始影响业务关键活动时,组织暴露的程度才是最高的。这些活动遍布客户服务、运营决策、软件开发乃至内容创作。它们是组织运转的核心环节,任何一个环节的AI输出出错,都可能直接传导到真实业务里。若这些AI工具本身没有经过正式的安全审查,那么错误、监管违规和敏感数据外泄的阀门,就同时被拧开了一部分。
更棘手的是,风险还在升级。
从“生成信息”到“执行动作”
当前的AI讨论大多集中在大语言模型上,这类模型主要负责生成信息。但企业正在向大动作模型和智能体系统迈进,后者的核心能力不再只是回答问题,而是可以直接执行操作。
这些系统可以诊断问题、推荐行动方案,甚至以最少的人工输入去执行工作流。它们的价值在于速度和自动化,但风险也恰恰藏在这里:错误发生的速度和规模,都会随之放大。过去一个错误输出可能只是停留在文案层面,现在一个错误动作,可能已经触及真实流程。
设想一下,一个游离在治理框架之外的“影子智能体”在无人干预的情况下触发了有害动作,而组织此时既没有足够的可见性,也没有相应的治理能力去及时拦截。这种场景并非遥不可及,而是大规模自动化的必然副产品。工具跑得越快,留给组织反应的时间就越短。
看不见的长期账
短期风险之外,影子AI还埋着一笔更隐蔽的长期账。
未来的AI系统可能会在合成数据或质量更低的数据上进行训练。一旦数据质量持续下滑,系统性能也会随之衰减,决策质量会一步步走低。这不是一次性的故障,而是一种缓慢的侵蚀。组织若长期依赖那些未经审查、来源不明的工具,就在不知不觉中为这种侵蚀提供了土壤。
因此,透明度和可追溯性会被提到一个非常关键的位置。它们不仅是技术指标,更是维持问责机制、守住伦理标准、保障AI系统有效性的前提。随着采用速度继续加快,这两项能力会越来越成为组织能不能长期安全使用AI的分水岭。
治理不是刹车,而是护栏
如果把AI治理仅仅理解为“设卡设限”,那就跑偏了方向。
真正有效的方式,是把治理做成创新的助推器:既为创新留出余地,又设下清晰、透明、可审计且与现有风险合规框架对齐的护栏。安全使用AI的前提,是企业能在问题出现时,准确地识别出到底哪里出错、为什么会出错。没有这个能力,任何事后补救都只能靠猜测。
落到实践层面,成熟的治理通常从一套经批准的AI工具栈起步。这套工具栈相当于给员工提供一个安全可信的默认选项,覆盖常见的使用场景,让大多数普通需求不必绕道个人账号就能被满足。工具栈之上,是基于风险的政策:要明确处理的是哪些数据,什么可以共享、什么不能共享,哪些工具被允许,哪些环节必须经过人工审批。
这种分层思路意味着:低风险任务可以放行,高风险操作必须设卡。比如起草类的工作,本身风险较低,可以走轻量流程;涉及敏感数据或业务决策的操作,则需要更严格的管控。关键在于依据风险高低施以不同力度的治理,而不是一刀切地禁止或一律放行。
一图看懂治理分层
把上面的逻辑拆开,大致能看到这样一条链路:
- 需求层:员工追求效率和生产力,是所有AI使用的起点。
- 工具层:批准内工具与影子工具并存,形成可见与不可见两条线。
- 风险层:低风险起草、摘要等场景风险可控;业务关键环节需要重点设防。
- 治理层:以批准工具栈打底,用风险政策分层,把审批加在必要节点。
- 目标层:在不牺牲治理的前提下,让AI采用继续向前。
这条链路想要传递的核心信息很朴素:员工会用AI这件事,挡是挡不住的。组织能做的,是让大部分使用发生在可见、可控的轨道上,同时把最危险的动作留在治理视野之内。真正需要被“管住”的不是AI本身,而是AI使用过程中的可见性与可追溯性。
把可见性补回来
影子AI时代的核心矛盾,说到底不是员工和公司谁对谁错,而是“看得见”和“管得着”之间出现了错位。
90%高管自信与52%员工承认之间的落差,恰好说明:可见性不是一道简单的开关,而是一个需要持续维护的状态。工具栈建好了不算完,政策发下去了也不算完。组织必须确保,当员工需要更快、更顺手的工作方式时,第一选择不是绕开规则,而是走进规则。
未来的AI系统会跑得更快,能做的动作会更多,一旦某个智能体在治理框架之外擅自行动,组织再想回头找漏洞,可能已经措手不及。把治理做成助推器、把护栏修在创新之前,才是AI采用不至于失控的关键一步。落差的缩小,靠的不是更严的管,而是更聪明的管——让看得见的部分覆盖住真正重要的风险,让每一个快速向前跑的工具,背后都有一条清晰的治理轨迹。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.