网易首页 > 网易号 > 正文 申请入驻

AI越权查阅机密文档,权限系统为何集体失效

0
分享至

周二下午,一张工单被提交到系统。连接着Jira、Confluence和Slack的企业AI助手收到指令:产品经理索要"支付服务的事故历史"。模型返回了一份详尽总结——时间线、根因、影响因素,还有一段摘自另一业务单元事后复盘报告的内容。那份报告从未向产品团队开放过。

所有API调用都成功了。每次权限检查都通过了。模型有权访问Confluence。那份复盘报告就在Confluence里。用户会话有效。唯独没人定义过"该用户在此工作流场景下的事故历史"究竟该包含什么。


直到这份总结被粘贴进高管演示文稿,会议室里有人认出自己本不想分享的内容,问题才暴露。这就是大语言模型的授权困境——收紧API权限解决不了它。

系统没故障,故障的是设计

模型没有失灵。它做了被设计来做的事:跨连接系统聚合相关信息,合成有用的回答。Jira集成返回了相关工单,Confluence集成返回了相关文档,Slack集成返回了相关线程上下文。模型把它们组装成连贯答案。

真正的失败在于:没人为这个工作流定义授权边界——只定义了其中单个API调用的边界。

这个区别在架构层面至关重要。传统企业系统中,用户请求数据时,作用域在API层面确定:该用户能读这些记录、这些文档、这些消息。系统每次调用都强制执行这个范围。边界是显式的、强制的、可审计的。

而在连接多个企业系统的AI工作流中,作用域问题发生了转移。用户有权限,模型有连接,但模型不问"该用户本应获取什么",它问"回答这个问题需要什么"。两个问题返回的结果集不同,两者之间的缝隙就是授权边界崩塌的所在。

API验证身份,大模型聚合上下文

传统企业授权运行着三层模型,大多数架构师都默认理解:

第一层是认证——你是谁?验证身份、确认会话、检查凭证。

第二层是授权——你能做什么?基于角色的访问控制、访问控制列表、策略执行。这是大多数企业安全投入的所在。

第三层是上下文授权——在此特定工作流中,你本应做什么?这一层在大多数企业授权架构中不存在,因为传统系统不需要它。数据库查询返回你确切请求的内容,REST端点返回定义好的资源,响应范围由请求决定。

大模型把第三层撕开了一道口子。连接十个企业系统的模型不是检索单一资源——它

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
基辅高官人人自危!俄军包了一个“大饺子”:乌军四个旅见死不救

基辅高官人人自危!俄军包了一个“大饺子”:乌军四个旅见死不救

徐竦解说
2026-06-01 09:11:08
忙活一桌子,狗都不吃!丈夫过生日,妻子自我感动 ,网友吐槽

忙活一桌子,狗都不吃!丈夫过生日,妻子自我感动 ,网友吐槽

蝴蝶花雨话教育
2026-05-31 00:05:20
天大的讽刺!释永信被查后,才知道她有多让人倾佩

天大的讽刺!释永信被查后,才知道她有多让人倾佩

一口娱乐
2026-06-01 09:43:27
休媒反对火箭追逐布朗:不值6000万+非联盟前15 送申京不如追字母

休媒反对火箭追逐布朗:不值6000万+非联盟前15 送申京不如追字母

颜小白的篮球梦
2026-06-01 20:29:18
断崖式零跑:月销量首破8万,股价大涨超8%

断崖式零跑:月销量首破8万,股价大涨超8%

车智inveh
2026-06-01 18:02:35
周六打虎!任上落马的正部级“老虎”,辞去职务

周六打虎!任上落马的正部级“老虎”,辞去职务

上观新闻
2026-06-01 12:44:24
美军宣布:已迫使霍尔木兹海峡118艘船改道 国际油价大涨 美油涨近3% 伊朗:无意向美国退让或妥协

美军宣布:已迫使霍尔木兹海峡118艘船改道 国际油价大涨 美油涨近3% 伊朗:无意向美国退让或妥协

每日经济新闻
2026-06-01 16:17:19
战争进入第56天,布什号到达中东,三艘航母到位,轰炸将再继续?

战争进入第56天,布什号到达中东,三艘航母到位,轰炸将再继续?

高博新视野
2026-04-25 07:30:11
震惊!河南麦收“割分按亩”,网友调侃:不地道啊,坏了江湖规矩

震惊!河南麦收“割分按亩”,网友调侃:不地道啊,坏了江湖规矩

火山詩话
2026-06-01 06:43:31
法网超新星诞生!去年世界排名仅第707,19岁小将首晋大满贯8强

法网超新星诞生!去年世界排名仅第707,19岁小将首晋大满贯8强

体育妞世界
2026-06-01 07:53:47
原价26.7万的增程式电车,二手暴打1.8折,保值率惨不忍睹

原价26.7万的增程式电车,二手暴打1.8折,保值率惨不忍睹

闲搞机
2026-05-30 11:05:41
韩国股市涨到熔断,震惊全球!

韩国股市涨到熔断,震惊全球!

财经三分钟pro
2026-06-01 15:00:31
六辆装甲车白守!无人机钻门缝炸穿指挥室,旅长当场脑浆迸裂

六辆装甲车白守!无人机钻门缝炸穿指挥室,旅长当场脑浆迸裂

深度报
2026-05-30 00:32:15
出什么事了?她们的日本粉丝见面会全部取消或推迟!

出什么事了?她们的日本粉丝见面会全部取消或推迟!

奋斗在韩国
2026-06-01 19:48:25
为什么“地下车位”现在没人买了?内行人说:这6个缺点是硬伤!

为什么“地下车位”现在没人买了?内行人说:这6个缺点是硬伤!

装修秀
2026-05-31 21:28:52
肺癌来临,腿部先知?提醒:双腿出现4个异常,建议尽早检查CT

肺癌来临,腿部先知?提醒:双腿出现4个异常,建议尽早检查CT

39健康网
2026-06-01 21:06:09
华为9 款新机官宣:6月1日,全新首发!

华为9 款新机官宣:6月1日,全新首发!

科技堡垒
2026-05-31 09:37:47
阿斯:姆巴佩需取得队友信任 他被高层告知对皇马和队友有所亏欠

阿斯:姆巴佩需取得队友信任 他被高层告知对皇马和队友有所亏欠

云隐南山
2026-06-01 20:16:12
时间不多了!巴黎卫冕欧冠,姆巴佩尴尬,问鼎金球奖还要等多久?

时间不多了!巴黎卫冕欧冠,姆巴佩尴尬,问鼎金球奖还要等多久?

海浪星体育
2026-05-31 19:17:30
大连20辆新能源车被烧,现场画面流出,纵火者身份被扒,原因离谱

大连20辆新能源车被烧,现场画面流出,纵火者身份被扒,原因离谱

法老不说教
2026-06-01 13:40:16
2026-06-01 21:32:49
固件更新中
固件更新中
有态度网友ytd
5295文章数 40关注度
往期回顾 全部

科技要闻

黄仁勋演讲实录|40年来PC首次重设计!

头条要闻

媒体:郑丽文"两手空空"访美 被指有望见到特朗普

头条要闻

媒体:郑丽文"两手空空"访美 被指有望见到特朗普

体育要闻

杰威:如果我没受伤,我们能击败马刺

娱乐要闻

奚梦瑶婚礼现场图!一双儿女当花童

财经要闻

宇树过会,杭州赢麻了

汽车要闻

奇瑞集团5月销量24.8万辆 同比增长20.5% 出口18.2万辆再创新高

态度原创

家居
本地
艺术
健康
军事航空

家居要闻

自信舒展 高背座椅

本地新闻

用剪纸的方式,打开江苏扬州

艺术要闻

吴镇写竹,清清爽爽

干细胞临床研究向患者收费?别踩坑

军事要闻

韩国最大军工企业爆炸 已造成5人死亡

无障碍浏览 进入关怀版