网易首页 > 网易号 > 正文 申请入驻

停止蔓延失控:五步驯服"孤儿"AI智能体

0
分享至


随着AI智能体在企业中激增,旧有的管理规则正在被摒弃。CIO和CISO们正在重新思考传统的身份与访问管理方法,以有效应对AI智能体及其带来的运营复杂性。

管理AI智能体的过程包括确定如何处理"AI孤儿"——那些脱离IT团队监控范围运行的智能体,以及离职员工遗留下来的智能体。当一名离职员工的用户账户被禁用时,IT团队还必须考虑是否要禁用该员工关联的所有智能体账户,或者继续对其进行管理。

员工并不是唯一让企业内充斥AI智能体的来源。企业IT团队还必须保护和管理通过第三方供应商软件引入的智能体。更为复杂的是,一些智能体关联的是服务账户而非单一的个人,这会使权限决策变得复杂。

在最复杂的情况下,智能体可能同时拥有多个所有者和功能。AI智能体管理公司Geordie AI的首席AI官哈娜·玛丽·达利解释说,许多大型组织拥有与多个人类用户相关联的多用途或多工作流智能体。因此,一个智能体可能需要多套权限设置,具体取决于使用它的人员及其对应的工作流程。

"从机器身份过渡到非人类身份过程中最大的挑战之一,就是智能体访问工具和系统的总量以及动态特性,"达利说。"这与机器身份完全不同,因为机器身份过去基本是固定的——它们总是访问相同的资源。"

达利表示,另一个挑战是如何获得对未使用智能体状态的可见性。例如,一名员工可能曾使用Claude智能体,但后来放弃或搁置了它,转而使用其他智能体,却没有告知IT部门这一变化。这可能导致一个未受监管的智能体在系统生态中处于休眠状态。

因此,有效的AI智能体管理首先要做到对企业内所有使用的智能体保持可见性,并应用控制策略来管理智能体活动。以下是简化AI智能体身份管理的五个步骤:

第一步:盘点你的智能体

达利表示,IT团队需要对内部构建的智能体和第三方智能体都具备可见性。内部开发和技术团队需要与管理第三方智能体的安全团队保持密切沟通。她说,如果企业无法看到自己的智能体,就无法对其进行治理。

"大多数组织往往没有对智能体操作形成完全统一的认知,而这对于在整个生命周期内治理智能体至关重要——了解你拥有哪些智能体、它们是否处于活跃状态、它们的身份在实际运作中是如何运行的,以及是否需要将其淘汰出局,"达利说。

Fleet设备管理公司的CIO艾伦·霍钦斯解释说,要实现对智能体操作的可见性,IT团队需要清楚了解员工如何使用其企业设备。

"这实际上关乎对所有设备的可见性和清单管理——不仅是正在运行的智能体和应用程序,还要深入了解智能体的指令文件、插件、MCP(模型上下文协议)、扩展程序,甚至是人们正在安装的本地AI模型,"他说。"如果没有这种可见性,你就无法对其进行治理、控制,也无法做出任何相关的业务决策。"

第二步:梳理智能体生命周期

完成清单盘点后,可能会发现一些运营中存在的明显空白,这些地方可以引入AI。但在部署任何新的AI智能体之前,CIO应该清楚了解自己希望这些智能体实现的业务成果,以及衡量其表现的方法。

为了准确评估智能体是否与业务成果一致并体现投资回报率,CIO需要管理智能体的完整生命周期,而不仅仅是初始部署过程。这还必须是一个持续的评估过程,而非一次性的衡量。

"你必须将所有生命周期管理与价值联系起来,因为最终你是根据结果来评判一个智能体的,"达利说。

这也意味着要将生命周期管理贯穿到最后:会有一些情况是智能体不再能带来业务成果,或者维护成本过高。

良好的生命周期管理应该能够近乎实时地标记出这些情况,以最大限度地减少财务和运营方面的影响。为此,CIO可以制定相应策略,明确何时应该淘汰或删除某个智能体,比如关闭该智能体的权限,并确保它不再与其他智能体进行通信。

另外,IT团队也可能决定最好将该智能体"保存在某个存储区中,因为其中蕴含了大量的构思和知识,下一个接任该职位的人可能会对此感兴趣,"身份访问管理解决方案提供商RSA的CISO罗布·休斯说。无论CIO选择哪种方案,都应该有一个清晰的流程来更新该智能体的访问权限。

第三步:每个智能体都需要一个所有者

正如人类员工需要向管理者汇报一样,AI智能体也需要监督者。达利的许多客户都为智能体设置了负责任的所有者或人类"母用户"。

霍钦斯也认同这一观点。"你需要为每一个智能体指定一个具名的所有者,"他解释说。

身份筛查公司Trua的CEO拉吉·阿南坦皮莱建议为员工分配一个"信任代币",员工需要通过完成生物识别和政府身份证件审核来获取该代币。这样,例如在进行在线交易时,就能将一个经过验证的真实人员与智能体关联起来。他将此比作"TSA快速安检通道",即美国运输安全管理局对乘客进行审核后,为每人分配一个唯一的快速通道编号,在预订航班时可以验证该编号。

"人们应该将公司内所有的智能体都与具体个人绑定,"阿南坦皮莱说。

第四步:控制与治理

达利的一些大型客户在其企业内运行着数千个智能体,因此AI治理团队没有实际可行的方法去逐一手动审查每个智能体,她说。要加快管理如此庞大数量智能体的流程,就需要使用独立的AI系统,达利补充道。

休斯表示,在API或模型上下文协议层面对AI智能体实施恰当的治理,对于确保智能体在受控环境中运作同样至关重要。

"我们曾见过这样一个案例:一个智能体ID连接到一个API,而该API实际上让它获得了对组织所有数据的无限制访问权限,"休斯说。"而这甚至不是该智能体ID本应拥有或预期拥有的访问权限。它本应拥有的,是该智能体所有者——即创建它的那个人——的访问权限。"

网络安全公司ThreatLocker的CEO丹尼·詹金斯也认同,IT高管需要确保自己拥有管控AI可以访问哪些数据和系统的控制策略。

"确保你在文件权限级别、应用权限级别、围栏隔离级别、AI控制级别——无论你想用什么方式——都非常清楚地界定了这个AI智能体可以与哪些文件、哪些文档、计算机上的哪些其他应用程序进行交互,并且当它确实进行交互时,这些权限设置能够贯穿始终,"他说。

第五步:智能体审计

审计流程也必须针对智能体AI进行更新。休斯表示,对智能体表现的审计不应是一次性的工作,而应是定期的审查过程。

"与以往相比,这些新的非人类身份所包含的复杂性要多得多,"休斯说。"仅仅对服务账户进行'标准审计',每季度或每年审查一次智能体的所有权归属,已经远远不够。你真正需要的是对智能体正在执行的操作进行持续审查,并确保它们没有超出你设定的边界。"

CIO还需要从微观和宏观两个层面进行思考。对智能体的绩效评估不应仅仅孤立地进行,还应作为一个整体来统筹考量。

达利分享了一个案例:某位客户意识到自己需要重新思考智能体生命周期管理,因为他们发现自己将大约19%的AI预算都用在了日程安排的自动化上。这些智能体在个体层面表现良好,但如果将其视为AI投资整体的五分之一来考量,则效率并不理想——这意味着它们最终并未带来所需的成果。

尽管如此,鉴于CIO们正面临着要在企业内快速部署AI的巨大压力,即便已经建立了控制和治理机制,仍会有一些智能体从监管的缝隙中溜走。

"每个人在某个时刻都会拥有孤儿智能体,"达利说。"这没关系,不要为此感到沮丧。但要思考一下,你希望如何管理智能体的生命周期,而不仅仅是让它们运行起来就算了。"

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
汽车圈新瓜!网传东风日产内部聊天记录流出,NX7预售预估订单可达2万+,高管决定暂不公布订单战报

汽车圈新瓜!网传东风日产内部聊天记录流出,NX7预售预估订单可达2万+,高管决定暂不公布订单战报

火山詩话
2026-11-16 04:19:31
央视镜头下,殷桃的“真实颜值”,治好了我的容貌焦虑

央视镜头下,殷桃的“真实颜值”,治好了我的容貌焦虑

娱乐圈十三太保
2026-11-13 15:56:34
特朗普现在真有点泥菩萨过江,自身难保了

特朗普现在真有点泥菩萨过江,自身难保了

News脑洞
2026-11-16 21:23:23
东盟晚宴合影引关注,中日代表相邻站位,现场有实质接触吗?

东盟晚宴合影引关注,中日代表相邻站位,现场有实质接触吗?

呼呼历史论
2026-11-17 14:35:52
忍到极限!梅西备好律师函,禁止阿足协商用他肖像

忍到极限!梅西备好律师函,禁止阿足协商用他肖像

圣西罗的太阳
2026-11-17 12:24:55
民意彻底逆转!乌克兰人最恨的不是普京,也不是特朗普,而是曾承诺让乌克兰更好的泽连斯基;而他当初能上台,这件事本身就相当离奇

民意彻底逆转!乌克兰人最恨的不是普京,也不是特朗普,而是曾承诺让乌克兰更好的泽连斯基;而他当初能上台,这件事本身就相当离奇

人生录
2026-10-12 15:41:39
五常均已表态!中日矛盾持续升级,五大常任理事国不再沉默,接连亮明各自立场

五常均已表态!中日矛盾持续升级,五大常任理事国不再沉默,接连亮明各自立场

谈史论今1
2026-11-13 20:52:38
国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

江启
2026-11-06 23:36:07
工会完败:纽森的政治胜利

工会完败:纽森的政治胜利

寰宇大观察
2026-11-16 12:55:50
杨瀚森正负值+11追平生涯纪录!3次助攻也平纪录

杨瀚森正负值+11追平生涯纪录!3次助攻也平纪录

体坛周报
2026-11-17 12:03:47
再等等!明年 iPhone Duo 2 预支持面容识别功能

再等等!明年 iPhone Duo 2 预支持面容识别功能

XCiOS俱乐部
2026-11-16 14:10:55
1941年日军占领香港暴行:女星新婚夜遭轮奸,女记者当街被奸杀!

1941年日军占领香港暴行:女星新婚夜遭轮奸,女记者当街被奸杀!

今明文史
2026-10-27 08:10:08
美国两党罕见一致,将炮火对准共同的敌人,鲁比奥发“斩首”威胁

美国两党罕见一致,将炮火对准共同的敌人,鲁比奥发“斩首”威胁

阿离家居
2026-11-17 05:23:11
复旦沈丁立语出惊人!希望菲律宾允许中国渔民在菲律200海里内捕鱼,中国可以给钱

复旦沈丁立语出惊人!希望菲律宾允许中国渔民在菲律200海里内捕鱼,中国可以给钱

小徐讲八卦
2026-11-17 09:12:10
财政不再兜底、大公交退市、老年卡取消,四部委文件真这么说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真这么说了?

楠楠自语
2026-11-17 00:02:50
“四人帮”之一的姚文元刑满出狱,提出两个要求,简直是痴心妄想

“四人帮”之一的姚文元刑满出狱,提出两个要求,简直是痴心妄想

扬平说史
2025-07-07 23:37:32
过节啦!今晚央视直播两场国字号球队!CCTV5+是U19打韩国  CCTV5国足热身赛

过节啦!今晚央视直播两场国字号球队!CCTV5+是U19打韩国 CCTV5国足热身赛

80后体育大蜀黍
2026-11-17 14:44:19
A股最便宜的股票!43个跌停从106元跌到0.07元,韭菜直接连根拔起

A股最便宜的股票!43个跌停从106元跌到0.07元,韭菜直接连根拔起

财经市界
2026-08-07 08:40:42
基层实情!推行公务零接待后,应酬没了,新负担却慢慢浮出水面?

基层实情!推行公务零接待后,应酬没了,新负担却慢慢浮出水面?

半路友人之他
2026-11-17 01:16:38
2015年,复旦投毒案林森浩被执行死刑,林父始终不肯接受判决,反复追问儿子是不是被冤枉,他一句话让父亲瞬间没了希望

2015年,复旦投毒案林森浩被执行死刑,林父始终不肯接受判决,反复追问儿子是不是被冤枉,他一句话让父亲瞬间没了希望

磊子讲史
2026-11-16 11:44:45
2026-11-17 16:07:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23437文章数 49740关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

教育
健康
本地
时尚
手机

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

情绪真能让健康人"伤心至死"?

本地新闻

乌兰察布:以前种土豆,现在种Token

自骂“烂人”的黄仁勋,冤不冤?

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

无障碍浏览 进入关怀版