Uber的安全团队把问题摆到了台面上:身份与授权系统能判断一个用户或服务有没有权限访问某个资源,却判断不了一个代理提出的动作在具体情境下是否合适。由此产生的失效模式不是凭证层面的,而是语义层面的——提示注入、工具与记忆投毒、目标劫持、行为漂移,以及幻觉驱动的动作。
![]()
Gartner描述了同一种转变:有了代理之后,威胁面扩展到代理发起的事件链条,而这些链条默认对人类或系统操作者不可见,也无法被他们叫停。一个你看不见的控制点,就是一根你拉不动的开关。Gartner预计,到2028年,25%的企业生成式AI应用每年至少会遭遇5起轻微安全事件。
Uber的Secure AI框架用三层覆盖代理的整个生命周期:供给时校验、运行时强制执行、持续保障。
供给阶段,Uber AI Registry存下代理的身份、归属、人格设定、允许的意图、约束条件、依赖关系和风险等级。Argus读取源代码、提示词、配置、依赖、暴露的端点以及工具调用路径,推导出意图,再拿声明的契约去比对。
运行时,注册表充当策略管理点,AI Guard是决策点,Agent Guard钩子则是执行点。一个代理可以持有有效凭证,用户也可以有合法访问权,动作依然可能因为超出代理既定意图而被拒绝。
第三层闭合回路:统一的执行轨迹把动作、工具调用和护栏决策串起来,记录下来的交互会在强制执行前对候选护栏做重放,自动化威胁建模配合红队测试把发现回灌进风险评分。
身份要能扛住每一跳
身份层是大多数技术栈翻车的地方。Uber的工程师发现,身份模型是围绕人和工作负载构建的,发起用户和中间代理在多次跳转中被丢掉,下游系统最后只看到一个服务调用了某个API。
他们的解法是:每个工作负载先从SPIRE取一个可被SPIFFE验证的ID,再由安全令牌服务签发一个单跳JWT,指定受众,有效期以分钟计。交换遵循OAuth 2.0令牌交换(RFC 8693),并嵌入完整的参与者链条,网关因此能看到那位工程师、值班代理,以及中间每一步。
生产环境中这次交换的P99延迟低于40毫秒,系统已被数千个内部代理采用。
限定范围的消费是同一个形状
这套模式不限于基础设施。2026年11月13日上线的ChatGPT Wallet,让代理只有在用户核对商品、总额和卡片,并用Face ID或指纹批准之后才能完成购买,同时生成一笔交易记录。钱包通过支付令牌代替卡片信息扣款,代理和商家都拿不到卡号。消费限额以及品类、时间窗口参数已在规划中,用户可以预先批准一小片自主权。
和Uber的架构并排看,控制手段是同样的三样:一个身份、一个范围、一次被记录的批准。
急停开关的边界
局限同样有据可查。Uber表示护栏降低了风险、抬高了利用成本,但没有消除风险;最有效的缓解手段恰恰是最不炫目的那个——明确的意图与约束,代价是灵活性。
评审者提出了结构性缺口。联合国高级信息技术官员Tristan G.指出,按代理配置的人格与约束会随工作流数量线性增长,并追问:对于无法插入自家执行钩子的供应商或SaaS代理,这套模型怎么运作?
急停开关只存在于有执行点的地方。对第三方代理,可用的杠杆缩减为注销注册、在网关拒绝令牌、切断网络路径;从没建过这些手段的团队,会在事故中才发现缺口。
菲律宾国家隐私委员会第2024-04号咨询意见要求个人信息控制者对AI处理结果负责,并建立隐私影响评估、人工干预协议和针对自动化决策的申诉机制。每一项要求都对应代理架构里有或没有的组件:注册表是问责记录,执行轨迹是申诉审查会读的审计线索,执行钩子则是人工干预真正叫停动作的地方。
Uber自己的结论最有用:人格设定、限定范围的意图、约束和来源追溯不是等模型变强就能拆掉的脚手架,而是自主性越高越重要的控制手段。下一个代理上线前,先把三个问题在架构里解决,而不是在事故报告里解决——每一跳上的行为者你能不能点名,授权它的范围你能不能出示,在你控制得住的地方你能不能叫停它。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.