网易首页 > 网易号 > 正文 申请入驻

非人类身份蔓延:智能体AI真正的安全风险

0
分享至

长期以来,企业依赖服务账户、API密钥、OAuth令牌等各类非人类身份凭证,使不同服务能够在数字环境中相互协作。在现代云架构和持续开发流程中,这类身份的数量始终远超人类用户,但针对它们的治理机制却很少能反映其实际规模与权限级别。


美国国家标准与技术研究院(NIST)近期发布的一项请求颇具说明意义。2026年伊始,该机构就面向公众征询意见,探讨组织应如何安全地开发和部署AI智能体系统。这一公告恰好发布于众多企业开始将智能体AI落地应用的关键节点——这类系统不仅能生成内容,还能理解指令、自主判断,并在应用程序和基础设施之间执行各类操作。

智能体系统已逐步进入生产环境,而本应为其提供约束边界的安全与治理模型仍处于构建阶段。在许多情况下,安全控制措施是在系统已获授权使用之后才被添加进来的,这在智能体AI的组织落地过程中制造了本可避免却极为严重的风险。

非人类身份权限的悄然扩张

传统身份管理体系围绕人类用户而构建,涵盖结构化的入职流程、明确的角色定义、定期审查机制,以及清晰的问责制度,用于全周期管理员工的访问权限与职责。

然而,非人类身份(NHI)往往被这些治理流程所忽视。它们静默运行于系统后台,通常在管理活动中被自动创建以维持系统运转,且往往被赋予长期有效、权限较高的凭证,成为攻击者极具吸引力的目标。与人类身份管理类似,针对NHI同样存在最佳实践,例如最小权限分配和高频凭证轮换,这些措施有助于提升NHI的安全性。对NHI的创建、日常使用和持续维护实施合理的治理流程,有助于确保自动化操作的安全性,并实现更有效的管控。

过去,当企业内部的自动化程度有限且范围受控时,这一治理缺口或许影响尚小。但如今,随着AI智能体的实例化部署、流程执行以及跨系统交互的展开,在无需人工介入的情况下协调工作流并推进任务,这一缺口的分量已大幅增加。

NHI行动时,薄弱管控将成倍放大风险

智能体系统的设计初衷是采取行动、检索数据、与内部系统交互,并在所授权限范围内推动工作流的推进。德勤近期的一份报告显示,在受访的3325位领导者中,近四分之三计划在两年内部署智能体AI。随着这些系统跨应用程序和数据集展开交互,其权限范围的合理性变得愈发关键。

当权限过于宽泛或治理不善时,AI智能体将以机器的速度放大这些缺陷。敏感数据的暴露范围可能超出预期,工作流可能突破原有的设计边界,而微小的配置疏漏也可能引发更大的运营风险连锁反应。问题不仅仅在于遭受入侵的风险,更在于非预期结果可能发生的规模。

保障AI智能体安全所需的措施在概念上并不陌生。适用于人类用户的诸多原则——最小权限、明确所有权、定期审查——同样直接适用于NHI。变化之处在于,当这些原则需要延伸至持续运行且大规模运作的非人类行为者时,所需的一致性与协调性将大幅提升。

在实践层面,这包括:为每个智能体分配独立身份、明确定义其操作范围与权限边界;定期审查并回收不再使用的凭证;建立对智能体活动的实时可见性与告警机制;以及将访问管理整合至智能体的开发与部署流程中。

对于安全领导者而言,这不是要发明全新的框架,而是要将现有的治理规范延伸至一类持续大规模运作的行为主体。身份定义了智能体被允许执行的操作范围,因此严格的权限管理和对这些身份的持续可见性,是在自动化扩张过程中维持管控的核心所在。

安全保障不应拖慢业务速度

企业引入智能体系统的目的在于简化运营、减少人工投入、加速决策过程。针对智能体的身份与访问管理策略,目标并非减缓这一势头,而是确保扩张以受控、可持续的方式推进,避免同步扩大风险敞口。

当智能体经过安全开发、配备清晰界定的权限边界,并与其所访问的数据一同纳入监控时,企业便能建立起扩大部署规模的信心,以更稳健的方式推进自动化创新。风险并不会消失,但它将变得更加可见、可管理,而非随时间悄然积聚,直至演变为难以遏制的重大威胁。

NIST的意见征询反映出业界在智能体系统标准化方面仍处于探索阶段,但企业无法等待最终框架落地后再行动。智能体AI已深入核心业务流程。其规模化落地的成败,将取决于治理能否同步演进——确保智能体在明确的身份边界内运行,并在每个阶段都将数据保护有意识地融入其中。

Q&A

Q1:非人类身份(NHI)是什么?为什么它对企业安全很重要?

A:非人类身份是指服务账户、API密钥、OAuth令牌等允许系统之间相互协作的凭证。在现代云架构中,这类身份的数量远超人类用户,却往往被企业的身份治理体系所忽视。它们通常被赋予长期有效且权限较高的凭证,一旦被攻击者利用,将成为重大安全隐患。

Q2:AI智能体系统在权限管理不善时会带来哪些具体风险?

A:当AI智能体的权限过于宽泛或缺乏治理时,其将以机器速度放大安全缺陷。具体风险包括:敏感数据暴露范围超出预期、工作流程突破原有设计边界、细微的配置失误引发大规模运营风险连锁反应。由于智能体持续运行且自动化程度高,一旦出现问题,影响范围将远超人工操作失误。

Q3:企业应该如何安全地管理和部署AI智能体?

A:企业可参考适用于人类用户的身份管理原则,将其延伸至非人类身份管理中,具体措施包括:为每个智能体分配独立身份并明确权限边界,定期审查和回收闲置凭证,建立对智能体活动的实时监控与告警机制,并将访问管理整合至智能体的开发与部署流程。核心目标是在不影响业务速度的前提下,实现对智能体权限的精细化、可视化管控。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一男子在35楼大厦擦玻璃被男孩割断安全绳,父母看到孩子死相崩溃

一男子在35楼大厦擦玻璃被男孩割断安全绳,父母看到孩子死相崩溃

悬案解密档案
2025-05-10 11:18:43
《给阿嬷的情书》的启示:演员没文化真不行

《给阿嬷的情书》的启示:演员没文化真不行

金牌舆情官
2026-05-11 13:10:22
3小时!40人!印度炸出一条震撼国际的暗访猛料!

3小时!40人!印度炸出一条震撼国际的暗访猛料!

安安说
2026-05-10 11:18:13
小伙连刮3天刮刮乐,刮中100万,彩票店老板:小伙在附近工厂上班,中奖后已辞职返回老家

小伙连刮3天刮刮乐,刮中100万,彩票店老板:小伙在附近工厂上班,中奖后已辞职返回老家

观威海
2026-05-10 20:02:09
2026生育大局尘埃落定,不出意外的话,新生人口将迎三大关键转变

2026生育大局尘埃落定,不出意外的话,新生人口将迎三大关键转变

今朝牛马
2026-05-12 20:08:35
美国担心事情发生,山东舰航母船坞大修4个月,原来是为适配歼35

美国担心事情发生,山东舰航母船坞大修4个月,原来是为适配歼35

胖福的小木屋
2026-05-11 23:54:55
穿礼服后退款后续:女子身份曝光社死,工作遭牵连,商家准备起诉

穿礼服后退款后续:女子身份曝光社死,工作遭牵连,商家准备起诉

八斗小先生
2026-05-12 17:23:09
贵州20岁女子因腹痛就医才发现自己怀孕且胎儿已足月,当天平安分娩5斤多女儿;当事人:以为只是月经不调,误将胎动当做正常肠胃蠕动

贵州20岁女子因腹痛就医才发现自己怀孕且胎儿已足月,当天平安分娩5斤多女儿;当事人:以为只是月经不调,误将胎动当做正常肠胃蠕动

台州交通广播
2026-05-11 14:48:35
越来越多的小城市和县城,只剩下体制内经济了!

越来越多的小城市和县城,只剩下体制内经济了!

灯锦年
2026-05-12 21:06:47
一男子失业拿了50万赔偿回村里,逢人说欠了30万外债,谁料第二天叔伯兄弟,都上门来“送温暖”了

一男子失业拿了50万赔偿回村里,逢人说欠了30万外债,谁料第二天叔伯兄弟,都上门来“送温暖”了

不二大叔
2026-03-19 21:29:20
新冠后遗症的长期侵袭,无数人在不知不觉中深陷困境

新冠后遗症的长期侵袭,无数人在不知不觉中深陷困境

律法刑道
2026-04-01 10:15:47
王楚钦机场大喊:梁靖崑你给我过来 你真治我啊 大胖:又我害你?

王楚钦机场大喊:梁靖崑你给我过来 你真治我啊 大胖:又我害你?

念洲
2026-05-12 15:15:21
炸裂!女子称被按摩师脱内裤摸隐私部位30分钟,是猥亵还是按摩?

炸裂!女子称被按摩师脱内裤摸隐私部位30分钟,是猥亵还是按摩?

鋭娱之乐
2024-12-15 21:13:25
张康阳现状证明,不怕富二代躺平就怕有野心,仅5年千亿身价归零

张康阳现状证明,不怕富二代躺平就怕有野心,仅5年千亿身价归零

青杉依旧啊啊
2026-03-19 22:10:26
畸形审美?这5位男演员长相平平,却总当主角演帅哥,实在不理解

畸形审美?这5位男演员长相平平,却总当主角演帅哥,实在不理解

暖心萌阿菇凉
2026-05-12 13:57:43
不断挑拨离间!小玥儿忍无可忍,一个动作揭开了与马筱梅的关系

不断挑拨离间!小玥儿忍无可忍,一个动作揭开了与马筱梅的关系

可乐谈情感
2026-05-13 00:17:36
向太再曝猛料:李连杰黄秋燕离婚根本不是因为利智!而是另有缘由

向太再曝猛料:李连杰黄秋燕离婚根本不是因为利智!而是另有缘由

阿废冷眼观察所
2026-05-11 00:16:02
伊朗战事导致“缺油少墨” 知名日本零食厂宣布改用黑白包装

伊朗战事导致“缺油少墨” 知名日本零食厂宣布改用黑白包装

财联社
2026-05-12 00:58:57
美国一华人市长辞职,被指控充当外国代理人!

美国一华人市长辞职,被指控充当外国代理人!

西虹市闲话
2026-05-12 10:31:51
彻底撕破脸!央视硬刚天价转播费后,资本报复手段简直不堪入目

彻底撕破脸!央视硬刚天价转播费后,资本报复手段简直不堪入目

微风轻拂面
2026-05-12 01:32:22
2026-05-13 02:24:49
至顶头条 incentive-icons
至顶头条
科技产业媒体与 AI 产业服务机构
18397文章数 49703关注度
往期回顾 全部

科技要闻

宇树发布载人变形机甲,定价390万元起

头条要闻

特朗普称将同中方讨论对台军售和黎智英案 外交部回应

头条要闻

特朗普称将同中方讨论对台军售和黎智英案 外交部回应

体育要闻

骑士终于玩明白了?

娱乐要闻

白鹿风波升级!掉粉20万评论区沦陷

财经要闻

利润再腰斩 京东干外卖后就没过过好日子

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

家居
游戏
健康
本地
军事航空

家居要闻

极简主义下的居住场域与空间

活久见!电棍与香锅怒喷被撸圈开除后和解,祝Mlxg母亲节日快乐

干细胞能让人“返老还童”吗

本地新闻

用苏绣的方式,打开江西婺源

军事要闻

知情人士披露:美国或考虑恢复对伊朗军事行动

无障碍浏览 进入关怀版