“影子AI”兴起：企业如何审计未经授权的AI工具

生成式人工智能（GenAI）、自主化解决方案以及基于AI的商业智能仪表盘，因其在任务执行中的高效与迅捷，已成为众多企业的标配。AI能力的持续突破，有望重塑全球经济与社会形态。然而，在享受技术红利的同时，一种日益凸显的风险正悄然浮现——“影子AI”（Shadow AI），即员工在未经批准的情况下擅自使用AI工具完成工作任务。这一现象让许多企业和管理者不禁发问：AI究竟何时才能真正兑现其变革性潜力与价值创造的承诺？

“影子AI”与早前的“影子IT”如出一辙，都是绕过正式技术管控的非授权技术应用。但其后果更为严峻，尤其在数据隐私、安全防护和合规监管方面，可能使企业陷入巨大风险，亟需建立有效的应对机制。

理解"影子AI"

“影子AI”指的是员工在未获得IT或合规部门授权的情况下，私自使用聊天机器人、代码助手、大语言模型（LLMs）等AI工具。与经过严格测试和评估的正规AI系统不同，这类“影子”应用往往会形成信息孤岛，给企业风险管理带来隐患。例如，一名程序员若使用个人订阅的GitHub Copilot生成生产级代码，虽提升了效率，却可能在无形中造成敏感信息外泄、合规漏洞等风险。对企业而言，此类潜在损失远超短期收益。

"影子AI"带来的风险

“影子AI”的风险远超传统“影子IT”，主要体现在以下几个方面：

1

数据泄露与知识产权暴露

“影子AI”通常在孤立环境中运行，员工可能无意中将机密信息或商业资产输入外部AI系统，导致数据外泄或知识产权被盗。根据IBM《2025年数据泄露成本报告》，每起与AI相关的数据泄露事件平均给企业造成超过65万美元的损失。这些损失不仅来自监管罚款，更源于企业缺乏有效的AI治理框架，无法对AI使用进行有效管控。

2

合规风险

未经授权使用AI工具，意味着企业无法将其纳入合规体系，例如美国国家标准与技术研究院（NIST）发布的《AI风险管理框架》（AI RMF），强调透明、协作的风险管理流程；欧盟《人工智能法案》要求高风险AI系统符合安全与伦理标准；中国《生成式人工智能服务管理暂行办法》也明确规定，AI服务需确保数据合法、内容安全，并落实用户权益保护。缺乏合规整合，企业极易触碰监管红线。

3

安全漏洞

非授权的AI工具往往缺乏安全防护，容易成为网络攻击的入口。攻击者可能通过注入恶意代码、发起网络攻击或篡改模型参数，破坏系统稳定性，窃取敏感信息，甚至操控企业运营。

4

模型幻觉与偏见

“影子AI”常依赖未经验证的模型，可能产生误导性输出（即“模型幻觉”）或带有偏见的结果，导致决策失误，削弱组织对AI的信任。

当前的现实是：尽管全球范围内许多企业已开发出创新性AI应用，但仅有4%实现了理想的投资回报率（ROI），其主要原因正是“影子AI”的泛滥。这些绕过监管的工具不仅分散了企业对安全与合规的注意力，更埋下了数据丢失、信息篡改和恶意代码注入等安全隐患。

为何需要AI使用审计

企业必须建立系统化的机制，以识别和防范“影子AI”，从而强化合规性、控制企业风险。负责任地使用AI，才能避免误导客户、泄露商业机密或引发网络攻击。为此，企业应建立坚实的AI治理原则，开展风险评估，并持续监控AI使用情况。然而，实施过程中仍面临挑战：AI监控工具成本高昂、员工对使用政策存在抵触、专业AI审计人才匮乏。要破解这些难题，必须通过定期的AI使用审计和结构性评估，识别、评估并管控非授权AI工具。

对AI使用情况进行审计可在多个层面帮助企业规避风险、维护信任：

AI资产发现与清点

审计可帮助企业识别云服务中是否存在“影子AI”应用。例如，世界经济论坛2025年报告强调，技术审计对于提升透明度、问责制和系统韧性至关重要，有助于实现与企业风险管理目标一致的AI治理。企业还可借助数据防泄露（DLP）和安全信息管理系统，定位安全漏洞及其源头。

政策制定与执行

企业应在充分理解“影子AI”风险的基础上，制定明确的AI使用政策。政策应列出获准使用的AI工具清单，规范数据共享边界，并强制要求员工接受负责任AI使用的培训。通过分类风险、明确控制措施，企业可主动管理AI相关风险。

访问与身份管控

审计有助于企业建立完善的身份与访问管理（IAM）机制，限制员工对AI工具的访问权限，尤其是涉及敏感数据的系统。这不仅能提升安全性，还能增强问责能力，优化AI流程，支持更稳健的AI应用落地。

满足问责标准

即使企业自研AI工具，也需确保其符合伦理与合规的问责框架。这通常要求记录工具的使用情况、所用模型、输出结果及预期功能，形成可追溯的审计链条，为持续监督提供依据。

构建AI治理路线图

要有效遏制“影子AI”，企业需采取更全面的策略，推动跨部门协作的前瞻性AI治理。透明、可信的AI应用，是企业可持续发展的基石。为此，企业应着手制定AI治理路线图，重点包括：

1. 建立AI工具注册库态

企业应建立一个全面的AI工具目录，收录所有经过测试与审批的AI应用，并确保其符合业务需求。这一目录不仅能提升合规性与安全性，还能降低偏见风险，加速AI部署，提升效率、推动创新、优化客户体验，并实现成本节约 。

2. 培训与文化建设命

企业需对员工进行AI伦理标准与合规要求的系统培训，内容应涵盖合规要点、非授权AI使用的风险等。持续的教育有助于推动合规使用、建立利益相关者信任、规避法律风险，并培育负责任的AI文化。此外，企业应组建由IT、法务、合规、人力资源和网络安全等部门组成的跨职能团队，协同推进AI治理。

3. 培训与文化建设命

已建立ERM体系的企业，应将AI使用纳入整体风险框架，实现动态监控与持续优化。风险管理部门应与跨职能团队紧密合作，制定AI风险应对策略，并将其融入企业文化。

4. 与AI开发者及供应商协作

企业应与AI技术提供方合作，共同保护数据安全。例如，通过逻辑隔离、物理防护、加密技术和数据权限控制等手段，防止用户在使用AI时造成数据泄露。

将上述举措纳入AI治理路线图，是企业实现负责任AI应用的关键。这不仅能有效管控风险，还能提升运营效率、增强信任、赢得利益相关者支持，并最大化AI的长期价值。

结语

“影子AI”正严重威胁企业安全。那些希望真正发挥AI潜力的组织，必须制定清晰的使用规范与治理路线图，防范未经授权使用AI所带来的运营、法律与声誉风险。同时，企业还需定期开展AI审计、加强员工培训、严格执行合规政策，并设立监督团队，全面保护数据、人员与模型资产。

归根结底，通过实施系统的AI治理战略来管理非授权AI使用，企业才能在控制风险的同时，充分释放AI的价值，迈向一个安全、可持续、技术驱动的未来。

作者：Alex Mathew

来源：ISACA微信公众号

编辑：孙哲

目前180000+人已关注我们，您还等什么？