生成式AI应用激增下的企业安全挑战

少有技术能像生成式AI（GenAI）这样提升生产力、减少重复劳动。目前，GenAI已集成到浏览器、应用程序及大量工具服务中。据研究：

GenAI 网站的网络流量在不到一年内飙升了 50%，2025年1月单月访问量就达105.3亿次。

2024年约观测到3,000余个GenAI应用，而2025年此类应用已超4,000个。域名增长更惊人——从2024年的1000个增至2025年的6500个。

GenAI的使用跨越了各种规模和行业的组织，GenAI的快速普及也引发了后续问题。全球各主要经济体也陆续出台了相关监管法案。鉴于此，制定全面的企业AI战略已刻不容缓。

一、AI应用加速，安全漏洞扩大

据Menlo研究发现，目前68%的员工正通过个人账户访问ChatGPT等GenAI工具，其中57%的员工会输入敏感或机密数据。

Menlo Security首席信息安全官Devin Ertel警告，这种情况正导致AI应用与治理之间出现危险失衡。“数据不会说谎；AI应用呈爆炸式增长，对现代工作空间至关重要，”他表示，“然而，缺乏明确治理的快速增长可能带来严重的泄露风险。”

Menlo研究还发现，仅一个月内，Menlo就观测到超过15.5万次复制操作和31.3万次粘贴操作涉及GenAI工具，这表明向其中输入或提取敏感数据的尝试非常普遍。这些工具目前主要通过浏览器访问，占所有GenAI流量的80%。

二、攻击者正搭上AI快车

事实上，据《Verizon 2025数据泄露调查报告》，AI辅助恶意邮件占比过去两年翻番（从约5%升至10%）。而AI不仅可通过修正拼写优化钓鱼内容，还能发起高度定向的“鱼叉式钓鱼”攻击。Menlo威胁实验室还发现，攻击者正在利用AI驱动攻击挖掘浏览器漏洞，导致零时差钓鱼攻击同比增长130%。

GenAI 工具的激增是部分原因——目前该生态系统已涵盖超过 6,500 个域名和 3,000 个应用程序，其快速发展为诈骗者和网络犯罪分子提供了沃土。正如 Zimperium 产品战略副总裁 Krishna Vishnubhotla 所言：“在 GenAI 出现之前，攻击者已能快速注册网络钓鱼域名；如今借助 GenAI，这些攻击实现了自动化、个性化，并且利用传统工具几乎无法检测，尤其在移动设备上。”

三、生成式AI可能过度获取企业机密

随着GenAI站点激增且日趋专业化，完成任务所需数据与资源的敏感性可能提升。访问内部应用数据的专用AI工具及改码/写码工具影响深远。尽管有迹象表明供应商重视数据安全隐私，但其使用仍增加企业风险管理负担。任何关注数据泄露的企业都需审慎评估免费工具的使用——它们会为训练目的向基础模型共享查询与回复。

因此，企业需制定数据安全隐私的全局战略，并建立总体DLP规则（尤其针对可访问敏感内容的工具）。日志记录虽是明确内容去向的良好开端，但绝非终点。

四、AI语境下的数据防泄露

研究显示，75%的客户认为生成式人工智能引入了新的数据安全风险，其中数据丢失或泄露是主要担忧。

此处的“数据丢失”指敏感数据在受控环境外的传输，可通过数据丢失防护（DLP）软件或安全框架加以管控。然而，相较于一般数据丢失，涉及敏感信息的“数据泄露”在GenAI场景下问题更为突出，尤其因大量用户直接通过文本输入与模型交互。用户虽无意在摘要或改写内容时传输敏感信息，但此类事件仍会发生。

虽然企业可以采用限制复制粘贴来防止数据泄露、丢失或转移，但值得注意的是，用户交互不仅限于复制粘贴，还可以上传文件。Menlo分析GenAI网站流量发现，触发DLP规则的内容上传中，敏感内容占70%、受限内容站25%、个人可识别信息占5%。

五、AI来源下载内容不可自动信任

上传至GenAI网站的内容仅仅是隐患之一，从GenAI网站下载的文件同样构成威胁。

数据显示，从GenAI站点下载的文件多为PDF或文本格式。PDF尤其危险，因其可完美隐藏嵌入式恶意软件，如加密URL、恶意脚本，还能规避安全分析。而文本文件与Word文件的高占比也迫使企业必须加强内容检查。

六、影子AI加剧数据泄露

更严峻的是，许多员工正采用“自带AI”（BYOAI，即影子AI），这些消费级BYOAI工具通常免费且共享数据，员工在为提升效率而使用此类AI工具总结敏感文档或查错代码时，却可能在使用过程中无意泄露信息。

调查显示，近七成（68%）使用GenAI的企业员工通过个人账户访问ChatGPT、Copilot或Gemini等公开GenAI助手，超半数（57%）承认向其输入敏感信息。

而《2025 Verizon数据泄露调查报告》也指出：“GenAI工具最常见用例（如摘要或编程辅助）常诱使用户上传机密文档和代码库。大量GenAI用户使用非企业邮箱注册账户（72%）或使用企业邮箱但未集成认证系统（17%），这也表明可能违反企业安全政策。”

相较于传统影子IT，影子AI的隐蔽性更高。“这不仅未经批准，而且是隐形的，”Mimoto首席执行官Kris Bondi指出，“员工在不告知任何人的情况下使用它。其生成特性使其功能更强大，同时也更危险。”Bondi还警告，“禁令无法阻止影子AI，只会迫使其转入地下。相反，应教育员工、明确不可接受的用途并提供经批准的替代方案。”

Acuvity 首席执行官 Satyam Sinha 认为，这种转变需要改变思维方式。

结语

面对GenAI的广泛应用与持续扩张，企业需将安全机制深度融入AI应用全生命周期，建立跨部门协作的持续治理流程，确保数据合规性与操作透明度。正如Acuvity首席执行官Satyam Sinha所强调：“GenAI 已经在自动化跨行业的任务，从客户服务到编码。唯一的出路是拥抱与技术一起扩展的AI安全性。唯有构建可随技术规模同步扩展的安全架构，才能支撑GenAI在客户服务、代码开发等核心业务领域的可持续应用。”