网易首页 > 网易号 > 正文 申请入驻

40毫秒内换一次身份,Uber用三层架构管住数千个AI代理

0
分享至

Uber的安全团队把问题摆到了台面上:身份与授权系统能判断一个用户或服务有没有权限访问某个资源,却判断不了一个代理提出的动作在具体情境下是否合适。由此产生的失效模式不是凭证层面的,而是语义层面的——提示注入、工具与记忆投毒、目标劫持、行为漂移,以及幻觉驱动的动作。


Gartner描述了同一种转变:有了代理之后,威胁面扩展到代理发起的事件链条,而这些链条默认对人类或系统操作者不可见,也无法被他们叫停。一个你看不见的控制点,就是一根你拉不动的开关。Gartner预计,到2028年,25%的企业生成式AI应用每年至少会遭遇5起轻微安全事件。

Uber的Secure AI框架用三层覆盖代理的整个生命周期:供给时校验、运行时强制执行、持续保障。

供给阶段,Uber AI Registry存下代理的身份、归属、人格设定、允许的意图、约束条件、依赖关系和风险等级。Argus读取源代码、提示词、配置、依赖、暴露的端点以及工具调用路径,推导出意图,再拿声明的契约去比对。

运行时,注册表充当策略管理点,AI Guard是决策点,Agent Guard钩子则是执行点。一个代理可以持有有效凭证,用户也可以有合法访问权,动作依然可能因为超出代理既定意图而被拒绝。

第三层闭合回路:统一的执行轨迹把动作、工具调用和护栏决策串起来,记录下来的交互会在强制执行前对候选护栏做重放,自动化威胁建模配合红队测试把发现回灌进风险评分。

身份要能扛住每一跳

身份层是大多数技术栈翻车的地方。Uber的工程师发现,身份模型是围绕人和工作负载构建的,发起用户和中间代理在多次跳转中被丢掉,下游系统最后只看到一个服务调用了某个API。

他们的解法是:每个工作负载先从SPIRE取一个可被SPIFFE验证的ID,再由安全令牌服务签发一个单跳JWT,指定受众,有效期以分钟计。交换遵循OAuth 2.0令牌交换(RFC 8693),并嵌入完整的参与者链条,网关因此能看到那位工程师、值班代理,以及中间每一步。

生产环境中这次交换的P99延迟低于40毫秒,系统已被数千个内部代理采用。

限定范围的消费是同一个形状

这套模式不限于基础设施。2026年11月13日上线的ChatGPT Wallet,让代理只有在用户核对商品、总额和卡片,并用Face ID或指纹批准之后才能完成购买,同时生成一笔交易记录。钱包通过支付令牌代替卡片信息扣款,代理和商家都拿不到卡号。消费限额以及品类、时间窗口参数已在规划中,用户可以预先批准一小片自主权。

和Uber的架构并排看,控制手段是同样的三样:一个身份、一个范围、一次被记录的批准。

急停开关的边界

局限同样有据可查。Uber表示护栏降低了风险、抬高了利用成本,但没有消除风险;最有效的缓解手段恰恰是最不炫目的那个——明确的意图与约束,代价是灵活性。

评审者提出了结构性缺口。联合国高级信息技术官员Tristan G.指出,按代理配置的人格与约束会随工作流数量线性增长,并追问:对于无法插入自家执行钩子的供应商或SaaS代理,这套模型怎么运作?

急停开关只存在于有执行点的地方。对第三方代理,可用的杠杆缩减为注销注册、在网关拒绝令牌、切断网络路径;从没建过这些手段的团队,会在事故中才发现缺口。

菲律宾国家隐私委员会第2024-04号咨询意见要求个人信息控制者对AI处理结果负责,并建立隐私影响评估、人工干预协议和针对自动化决策的申诉机制。每一项要求都对应代理架构里有或没有的组件:注册表是问责记录,执行轨迹是申诉审查会读的审计线索,执行钩子则是人工干预真正叫停动作的地方。

Uber自己的结论最有用:人格设定、限定范围的意图、约束和来源追溯不是等模型变强就能拆掉的脚手架,而是自主性越高越重要的控制手段。下一个代理上线前,先把三个问题在架构里解决,而不是在事故报告里解决——每一跳上的行为者你能不能点名,授权它的范围你能不能出示,在你控制得住的地方你能不能叫停它。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发异动!000533,直线涨停!

突发异动!000533,直线涨停!

证券时报
2026-11-16 11:54:26
米切尔公开呼吁联盟取消对阵独行侠比赛 双重极端困境倒逼联盟调整赛程规则

米切尔公开呼吁联盟取消对阵独行侠比赛 双重极端困境倒逼联盟调整赛程规则

刘哥谈体育
2026-11-15 20:09:46
我感觉其实不用再猜了,万斯大概率就是下一届美国总统。真要是他入主白宫,首当其冲的就是中国

我感觉其实不用再猜了,万斯大概率就是下一届美国总统。真要是他入主白宫,首当其冲的就是中国

扶苏聊历史
2026-10-26 17:56:12
又一个电诈大头目浮出水面,这一次,不是大家熟悉的缅北!

又一个电诈大头目浮出水面,这一次,不是大家熟悉的缅北!

苗苗情感说
2026-10-23 07:34:12
东山精密今日跌10.00% 有3家机构专用席位净卖出4.74亿元

东山精密今日跌10.00% 有3家机构专用席位净卖出4.74亿元

每日经济新闻
2026-11-16 16:34:02
全市场:意丙不需要罗纳尔迪尼奥,别再沉湎过去了

全市场:意丙不需要罗纳尔迪尼奥,别再沉湎过去了

懂球帝
2026-11-16 15:53:12
人社部重点严查五类退休人员!

人社部重点严查五类退休人员!

逍遥论经
2026-10-17 17:39:47
旅行者1号即将抵达距地球1光日的位置!一起来庆祝吧!

旅行者1号即将抵达距地球1光日的位置!一起来庆祝吧!

牧夫天文
2026-11-16 14:05:24
市价8万多的房子卖给老人41万、合同刚签完就被收走,央视曝光→

市价8万多的房子卖给老人41万、合同刚签完就被收走,央视曝光→

澎湃新闻
2026-11-15 18:11:16
妹子怀疑猫吃了800元买的角蛙,在网上蛐蛐猫一整天,结果反转了?网友:快拿10个罐罐给咪道歉!

妹子怀疑猫吃了800元买的角蛙,在网上蛐蛐猫一整天,结果反转了?网友:快拿10个罐罐给咪道歉!

铲屎官阿伟
2026-11-08 09:26:17
炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

小徐讲八卦
2026-09-17 09:49:48
热火VS火箭,传来4好1坏消息,字母哥有望率队击退杜兰特

热火VS火箭,传来4好1坏消息,字母哥有望率队击退杜兰特

生活新鲜市
2026-11-16 13:16:43
学历贬值,研究生烂大街!日本30年前就经历过,中国会否重蹈覆辙

学历贬值,研究生烂大街!日本30年前就经历过,中国会否重蹈覆辙

梦想的现实
2026-11-16 20:55:10
比红薯通便,比芋头养人,11月使劲吃!一养肝、二通便、三健脾胃

比红薯通便,比芋头养人,11月使劲吃!一养肝、二通便、三健脾胃

阿龙美食记
2026-11-15 12:26:07
2种油再香也要管住嘴!研究发现:可能增加癌症和死亡风险!

2种油再香也要管住嘴!研究发现:可能增加癌症和死亡风险!

39健康网
2026-11-16 19:31:08
特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

磊子讲史
2026-11-11 15:53:38
-3℃!大范围雨雪持续,确认影响天津!雨雨雨、8级大风、降温又来了,天津这次怒降几度?

-3℃!大范围雨雪持续,确认影响天津!雨雨雨、8级大风、降温又来了,天津这次怒降几度?

天津族
2026-11-16 20:11:50
知名男装品牌创始人公开道歉:为了“蹭流量”,都是胡说八道,现在想想都是很恶心

知名男装品牌创始人公开道歉:为了“蹭流量”,都是胡说八道,现在想想都是很恶心

南方都市报
2026-11-16 20:36:36
英伟达美股盘前跌2%

英伟达美股盘前跌2%

每日经济新闻
2026-11-16 17:27:04
中纪委明确划红线!要求各地哪怕脱层皮,也要一抓到底!

中纪委明确划红线!要求各地哪怕脱层皮,也要一抓到底!

职场资深秘书
2026-11-15 11:20:09
2026-11-16 21:52:49
固件更新中
固件更新中
有态度网友ytd
250文章数 87关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

80岁老人结束60多年包办婚姻:像捉鸡仔一样捉在一起

头条要闻

80岁老人结束60多年包办婚姻:像捉鸡仔一样捉在一起

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

标配激光雷达 极狐阿尔法S5上市 限时11.58万起

态度原创

健康
教育
旅游
数码
时尚

情绪真能让健康人"伤心至死"?

教育要闻

下面这道题不用勾股定理,你会解答吗?欢迎来挑战

旅游要闻

瞰中国丨山东济宁:运河冬色 层林焕彩

数码要闻

9.2mm同档最薄小方表!OPPO Watch 5发布:899元起

秋天找到一些固定的穿衣公式,用针织衫搭配牛仔裤,减龄舒适

无障碍浏览 进入关怀版