网易首页 > 网易号 > 正文 申请入驻

AI网关看不到智能体工具调用,生产环境为何通常需要两类网关并用

0
分享至

一个被忽略的请求后半程

想象一个相当常见的部署:智能体放在AI网关后面,提示词做了速率限制,个人身份信息被清洗,成本按团队归集,越狱尝试会被标记。这套配置看起来已经比较完整。随后智能体通过MCP接入工具调用,去访问客户关系管理系统、内部搜索索引和若干内部接口。网关这边没有任何变化,因为从网关的视角看,模型调用进出仍然保持原样。

但此时请求多出了第二段路径,而这一段没有任何人在观察。

AI网关与MCP网关各管一段

AI网关本质上是面向大模型流量的反向代理。它位于应用和模型供应商之间,无论调用的是OpenAI、Anthropic、Bedrock、Gemini还是自托管模型,都统一收敛到一个接口后面。它处理的内容围绕模型流量展开:基于令牌的速率限制、流式响应、供应商故障切换、语义缓存、成本归因,以及对输入提示和输出补全的内容策略。

结构上它看不到模型决定调用工具之后发生的事。一旦补全结果里包含工具调用,执行就转移到运行智能体工具逻辑的组件上。如果这部分通过模型上下文协议进行,那就是完全不同的另一条传输通道。

MCP网关补上的治理空白

MCP是一个开放标准,让智能体通过一致的客户端-服务器接口发现并调用外部工具和数据源,避免每个团队为每种模型到系统的组合手写连接器。它常被描述为把M×N的集成问题变成M+N:每个系统一个客户端、一个服务器,任何符合MCP规范的组件都能互相通信。

方便归方便,MCP本身对治理没有约束。协议不阻止智能体调用服务器暴露的所有工具,也不记录它实际用这些工具做了什么。MCP网关正是放在这段流量前面,补上几项能力:为每个智能体到服务器的连接做认证,包括远程服务器的OAuth流程;按工具、按智能体做授权,不只是判断智能体能否访问服务器,还要限定它能用服务器上的哪些具体工具;盘点整个组织内的MCP服务器,包括那些没人登记的影子服务器;记录谁调用了什么、带什么参数、返回什么结果的审计日志;检查工具调用和返回结果中是否藏有注入尝试或数据外泄。

逐工具策略的实际形态

一个MCP网关会执行的逐工具策略大致可以这样描述:智能体是支持机器人,服务器是内部客户关系管理系统。允许清单里包括查询客户工具,每分钟最多调用20次;更新工单状态工具,无需审批。拒绝清单里则包括导出客户工具。

这种粒度是AI网关无法提供的。AI网关看到的是模型请求和模型响应,MCP网关看到的是工具调用和工具返回。两者观察的流量不同,能执行的策略自然也不同。

生产环境为什么通常需要两者并用

当智能体只做文本生成时,AI网关已经覆盖了主要风险面。一旦智能体开始通过MCP调用内部系统,请求路径上就出现了一段AI网关看不见的流量。工具调用可能携带敏感参数,工具返回可能夹带不该离开内网的数据,某个智能体可能越权调用未授权工具。这些风险都落在MCP网关的职责范围内。

把AI网关和MCP网关分开看待,不是因为其中一个不够好,而是因为它们本来就是为请求路径的不同阶段设计的。模型流量需要令牌级控制、供应商切换和内容策略,工具流量需要逐工具授权、调用审计和返回内容检查。两者叠加,才能覆盖从提示词进入到工具执行完成的完整链路。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
最矮奥运冠军:身高1米37无人追,退役后二次发育,如今遇到真爱

最矮奥运冠军:身高1米37无人追,退役后二次发育,如今遇到真爱

贵州小娟
2026-08-24 20:27:33
一年产出上百部黄色影像!麻豆传媒毁掉了多少女人?警方一举捣毁

一年产出上百部黄色影像!麻豆传媒毁掉了多少女人?警方一举捣毁

潋滟晴方DAY
2026-07-21 17:12:09
形势到底有多严峻?网传师范生要凉了,没有了前途…

形势到底有多严峻?网传师范生要凉了,没有了前途…

番外行
2026-08-22 13:59:19
明明功能很强,OpenCode国内却冷门,真实原因很少人讲透

明明功能很强,OpenCode国内却冷门,真实原因很少人讲透

侃故事的阿庆
2026-08-24 16:50:09
奉劝广大50-70岁男人:晚年贪色,是一生最大致命伤

奉劝广大50-70岁男人:晚年贪色,是一生最大致命伤

新时代的两性情感
2026-08-21 09:28:31
体坛彻底乱了!功勋女教练涉嫌违纪被查,更多丑闻被爆,落马不亏

体坛彻底乱了!功勋女教练涉嫌违纪被查,更多丑闻被爆,落马不亏

米果说识
2026-07-16 19:32:08
美国23岁女飞行员海上迫降,穿比基尼游回岸边:最打动我的不是她活了下来,是她说的那几句话

美国23岁女飞行员海上迫降,穿比基尼游回岸边:最打动我的不是她活了下来,是她说的那几句话

怪味历史连连看
2026-08-25 19:30:12
赵露思把自己10年前的老板,签到自己公司旗下当艺人:前老板变员工,还和赵爸组团出道。

赵露思把自己10年前的老板,签到自己公司旗下当艺人:前老板变员工,还和赵爸组团出道。

In风尚
2026-08-24 19:00:21
向太回应旅行租5栋别墅:并非刻意炫富,核心是保护孙辈不被偷拍

向太回应旅行租5栋别墅:并非刻意炫富,核心是保护孙辈不被偷拍

观鱼听雨
2026-08-25 21:13:52
【油价大降】近1.2元/升,全国95汽油“6连涨、接近9.5元/升”后降下来,下次8月28日调价,预涨390元/吨!

【油价大降】近1.2元/升,全国95汽油“6连涨、接近9.5元/升”后降下来,下次8月28日调价,预涨390元/吨!

猪友巴巴
2026-08-26 09:26:35
CCTV5播中国男篮VS卡塔尔,国内0点比赛,郭士强明牌,杨瀚森焦虑

CCTV5播中国男篮VS卡塔尔,国内0点比赛,郭士强明牌,杨瀚森焦虑

体育大学僧
2026-08-26 11:29:05
重大考验!国足即将出战世界杯球队新西兰:有望召入大量新国脚

重大考验!国足即将出战世界杯球队新西兰:有望召入大量新国脚

邱泽云
2026-08-26 15:08:49
埃及阵风战机与歼-16对抗,中方飞行员:埃方飞行员让人印象深刻

埃及阵风战机与歼-16对抗,中方飞行员:埃方飞行员让人印象深刻

影孖看世界
2026-08-24 23:06:05
搭乘遣返航班拒下飞机就可以返回美国?6名非法移民被“扔”在非洲

搭乘遣返航班拒下飞机就可以返回美国?6名非法移民被“扔”在非洲

大洛杉矶LA
2026-08-26 04:23:07
不止6000万救护车!博主扒料:多个项目,清一色竟用空壳供应商!

不止6000万救护车!博主扒料:多个项目,清一色竟用空壳供应商!

萧嚉影视解说
2026-08-24 17:58:38
万万想不到!2026年成都国际车展,十大豪车大牌集体摆烂,连特斯拉也没来,国产全面接棒

万万想不到!2026年成都国际车展,十大豪车大牌集体摆烂,连特斯拉也没来,国产全面接棒

火山詩话
2026-08-25 06:45:47
2026养老全国统筹落地,企退人员视同工龄,统一重算可行吗?

2026养老全国统筹落地,企退人员视同工龄,统一重算可行吗?

偷喝一口奶
2026-08-19 19:18:24
向太大曝施南生私生活,表情狰狞一脸惋惜,力挺徐克却遭鲁豫炮轰

向太大曝施南生私生活,表情狰狞一脸惋惜,力挺徐克却遭鲁豫炮轰

胡一舸南游y
2026-08-25 16:26:25
蒙古女网红闯中企营地施暴打砸的后续来了,结局真的大快人心!

蒙古女网红闯中企营地施暴打砸的后续来了,结局真的大快人心!

天天热点见闻
2026-08-25 08:16:48
拆队风波后首亮相!志田千阳更换发色渴望再夺冠军;球迷:如同艺人般的颜值

拆队风波后首亮相!志田千阳更换发色渴望再夺冠军;球迷:如同艺人般的颜值

情感大头说说
2026-08-26 11:20:40
2026-08-27 09:51:00
硅屿手记
硅屿手记
有态度网友ytd
299文章数 69关注度
往期回顾 全部

科技要闻

苹果邀请函:新CEO、折叠屏iPhone都要来了

头条要闻

"扶老人被索赔1.9万"死者亲属:外面热还继续"拖"老人

头条要闻

"扶老人被索赔1.9万"死者亲属:外面热还继续"拖"老人

体育要闻

兑现五年之约,含梗量最高的世界冠军诞生

娱乐要闻

包贝尔承认将柳岩推下水片段引爆热搜

财经要闻

英伟达,营收翻倍大增,指引碾压预期

汽车要闻

搭华为ADS 5/增程纯电可选 阿尔法T7预售13.78万起

态度原创

时尚
健康
数码
房产
旅游

夏天上衣可以多穿黑色,不显花哨、不显胖,百搭经典又耐看

孩子刷短视频成瘾?9大成瘾真相

数码要闻

小米推出米家弹盖保温杯2,众筹价79元

房产要闻

煤老板出手,海口又要杀出一个超级大盘!

旅游要闻

辽宁省博物馆发布重要通知

无障碍浏览 进入关怀版