北京
我们早已告别了影子AI只是未经授权的聊天机器人的时代。员工不再仅仅通过ChatGPT和Claude等工具搜索答案，他们正在构建和部署自己的AI智能体，代表自己采取行动并完成任务，而这往往并未获得所在组织的知悉或监督。
根据微软2025年对1725名数据安全负责人的调查，近三成员工已经在工作中使用未经批准的AI智能体。Adobe近期对1000多名每周使用AI的员工进行的调查发现，接受过智能体AI培训的员工中，近一半人会进一步构建自己的定制智能体。相比员工将敏感信息复制粘贴进聊天机器人，这是一次重大升级。
聊天机器人只能回答问题，而智能体却可以登录系统、在系统间移动数据，并做出以往需要人工介入才能完成的决策。当AI智能体能够独立访问系统、执行任务并做出决策时，组织面临的风险也随之增加，而大多数企业对此并未做好准备。
这些工具的行为越来越像员工：它们完成分配的任务，并发展出自己的工作流程，只是没有人在管理它们的"工作表现"。
员工主导的创新应当被鼓励，但必须配备组织应用于任何新员工的基本防护措施：对员工行为的可见性、对其可访问内容的边界限制，以及出现问题时的问责机制。
许多员工根本没有意识到自己在构建和部署智能体时所制造的风险。这未必是因为他们粗心大意，而是因为这些工具让人们能够在充分理解风险之前，就轻而易举地构建出强大的功能。
AI的采用速度已经超过了大多数组织的治理能力。德勤近期对3235名IT和业务负责人的调查发现，只有21%的组织表示已针对智能体AI风险建立了成熟的治理模型，而云安全联盟今年的调查显示，超过半数的受访组织遇到过智能体超出预期权限行事的情况。这一差距应该引起任何领导团队的关注。这意味着，无论是否经过批准，大多数部署了智能体AI的组织都已经目睹过它以意料之外的方式运行。
但敏感数据暴露只是问题的一部分。影子智能体AI还带来了更长期的风险：组织知识的流失。
当员工在企业基础设施之外构建智能体时，他们可能将宝贵的组织知识——比如工作流程、决策逻辑、流程专长，以及通过自身经验积累而成的指令——嵌入其中。如果这个智能体不可见、未被记录、也不受组织管理，那么这些知识可能会随着员工的离职而一同流失。公司失去的不仅是这名员工，还可能失去他们为提高工作效率而构建的系统。
解决方案并非扼杀这种创新，而是为员工提供一个共享环境来进行构建，让组织能够了解正在创建哪些智能体，为其设置适当的控制措施，并确保有价值的工具和知识留在企业内部。
这也要求组织重新思考AI采用背后的基础设施。数据、内容和业务活动需要让AI系统能够访问和理解，否则员工将继续寻找自己的变通方法，并在经批准的环境之外进行构建。
这正是组织需要为之准备的更广泛的AI原生转型。超越聊天界面，将AI嵌入企业运营方式，这需要时间。我所在的组织预计这一转型将在大约两年内逐步展开。
正因如此，组织需要从现在就开始行动。治理滞后于采用的时间越长，组织在意识到问题之前可能损失的机构知识和企业价值就越多。每一家希望在这一新AI经济中保持领先的公司，都应该优先将这种实验转化为持久的组织能力，这样员工所创造的知识、工作流程和价值才能留在组织内部，并随着公司的发展而扩展，而不是随着员工的离开而流失。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
