网易首页 > 网易号 > 正文 申请入驻

智能体工具超载的隐形成本:Ratel用按需检索砍掉无效令牌

0
分享至

每个工具描述、每条技能提示、系统指令中膨胀的规则清单——这些都是你每次调用智能体时掏钱的令牌。把它们一股脑塞进上下文,你就得每次都为它们买单。

更糟的是,模型的表现会随着上下文变长而变差。塞进一堆当前步骤根本不需要的工具、技能和指令,模型就容易选错选项,跑偏任务。

Ratel 的解决方法很直接:把你的工具和技能编成目录,让智能体渐进式地检索。它不是一次性加载所有能力,而是搜索当前步骤需要什么,只把匹配的工具和技能注入上下文。没有向量数据库,也不依赖额外的基础设施。

官方给出的基准测试显示,在本地模型、开源模型与前沿模型的多组实验中,Ratel 同时降低了令牌消耗,并且找回了因工具超载而损失的准确度。完整结果公布在 benchmark.ratel.sh。

使用上,Ratel 提供了 TypeScript 和 Python 两种 SDK。核心操作是创建工具目录和技能目录。工具目录注册具体的可执行工具,每个工具带着输入输出模式定义和执行函数;技能目录则定义某个场景下需要组合哪些工具,并附带一段指导文本。智能体运行时,会调用搜索能力工具找出匹配项,再通过调用工具和加载技能工具获得实际内容。

具体来说,用 TypeScript SDK 时先安装 @ratel-ai/sdk。接着构建 ToolCatalog 示例并注册工具,比如一个读取本地文件的工具,定义好输入输出格式,绑定对应的异步执行逻辑。同样地,SkillCatalog 注册技能,指定技能用到哪些工具,并附上执行提示。之后在智能体框架里,把 searchCapabilitiesTool、invokeToolTool 和 getSkillContentTool 当作普通工具使用,就能实现按需检索和调用。

Python SDK 同理,安装 ratel-ai 包,通过 ToolCatalog 和 SkillCatalog 完成注册,再用同样的三个工具函数驱动智能体。整个过程省去了向量数据库的部署负担,直接在调用链中完成能力筛选。

这种按需加载的思路,本质上把上下文工程化从“预定义”推向了“即时检索”。每次调用只为实际用到的那部分令牌付费,既控制了成本,又避免了模型在冗余信息里迷失方向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
问界M9车主:平均36.4岁 家庭年收入92.1万元

问界M9车主:平均36.4岁 家庭年收入92.1万元

新浪财经
2026-07-17 20:27:39
Stephen A. Smith怒批詹姆斯:你早就知道去哪,别演了

Stephen A. Smith怒批詹姆斯:你早就知道去哪,别演了

热血体育社
2026-07-17 01:27:26
利物浦重磅!当世第一中场续约 5 年,皇马彻底梦碎

利物浦重磅!当世第一中场续约 5 年,皇马彻底梦碎

一隅非生
2026-07-18 07:30:54
斯卡洛尼谈世界杯决赛:看到西班牙队坐大巴出门我就担心

斯卡洛尼谈世界杯决赛:看到西班牙队坐大巴出门我就担心

星耀国际足坛
2026-07-18 13:40:17
重磅:克里米亚大桥遇袭关闭!乌克兰摧毁黑海舰队通信系统

重磅:克里米亚大桥遇袭关闭!乌克兰摧毁黑海舰队通信系统

项鹏飞
2026-07-17 20:56:50
三伏40天,这7种食物一定要多吃,生阳气排寒湿,冬病夏治

三伏40天,这7种食物一定要多吃,生阳气排寒湿,冬病夏治

阿龙美食记
2026-07-17 21:15:31
陈震抢先晒荣耀Robot Phone真机:4D云台主摄一键启动!支持360°追踪

陈震抢先晒荣耀Robot Phone真机:4D云台主摄一键启动!支持360°追踪

快科技
2026-07-18 13:53:08
网传前国脚申思掌掴小球员,3天扇了二十余记耳光,后者父母已报警,足协:申思系终身禁足人员,密切关注上海市有关部门对事件的调查进展

网传前国脚申思掌掴小球员,3天扇了二十余记耳光,后者父母已报警,足协:申思系终身禁足人员,密切关注上海市有关部门对事件的调查进展

都市快报橙柿互动
2026-07-18 12:51:58
特朗普决赛前夜放话:下一届世界杯,咱们换个玩法北京时间7月20日凌晨三点,球迷的闹钟已经定好第三遍

特朗普决赛前夜放话:下一届世界杯,咱们换个玩法北京时间7月20日凌晨三点,球迷的闹钟已经定好第三遍

带你逛体坛
2026-07-18 12:17:16
印度没想到,抢夺安理会席位第四天,中国突然表态了,措辞很简单

印度没想到,抢夺安理会席位第四天,中国突然表态了,措辞很简单

浮黎礼
2026-07-17 12:40:08
普陀山5元水永远售罄,3元机常年断电,只不过这回游客更硬气!

普陀山5元水永远售罄,3元机常年断电,只不过这回游客更硬气!

星娱叨叨社
2026-07-16 15:00:19
詹姆斯下家即将揭晓!美媒支招5大领跑者加码争夺:勇士3换1浓眉

詹姆斯下家即将揭晓!美媒支招5大领跑者加码争夺:勇士3换1浓眉

锅子篮球
2026-07-18 17:04:05
中国足协任免公告

中国足协任免公告

新京报政事儿
2026-07-18 08:42:04
山东大学,狂跌8800位次,发生了什么?

山东大学,狂跌8800位次,发生了什么?

勋哥教你填志愿
2026-07-18 14:16:52
目不识丁、脑袋空空?杨紫座谈会7分钟的发言 给内娱众星上了一课

目不识丁、脑袋空空?杨紫座谈会7分钟的发言 给内娱众星上了一课

叨唠
2026-07-17 23:36:51
破案了!阿根廷与西班牙的决赛票价,为何成美国体育史上最贵赛事

破案了!阿根廷与西班牙的决赛票价,为何成美国体育史上最贵赛事

体育大学僧
2026-07-18 10:08:00
比亚迪CEO警示:新款电机一旦投放市场,汽车行业或将全面洗牌

比亚迪CEO警示:新款电机一旦投放市场,汽车行业或将全面洗牌

音乐时光的娱乐
2026-07-18 12:50:55
《功夫女足》票房接近12亿,打破3项纪录,登顶全球冠军

《功夫女足》票房接近12亿,打破3项纪录,登顶全球冠军

影视高原说
2026-07-18 14:33:00
连杯面都吃不起,日本物价全面失控,正在榨干底层最后一滴血

连杯面都吃不起,日本物价全面失控,正在榨干底层最后一滴血

探索新高度
2026-07-17 10:18:01
连续5个跌停板!股民:恐怖如斯!

连续5个跌停板!股民:恐怖如斯!

数据挖掘分析
2026-07-18 14:53:51
2026-07-18 17:32:49
固件更新中
固件更新中
有态度网友ytd
293文章数 57关注度
往期回顾 全部

科技要闻

WAIC2026看什么?这份"不迷路"攻略请收好

头条要闻

男子八战清华终上岸:曾被女子骗100多万 为赚钱做保洁

头条要闻

男子八战清华终上岸:曾被女子骗100多万 为赚钱做保洁

体育要闻

德尚是非典型法国人 14年执教留下丰厚遗产

娱乐要闻

大S给具俊晔留遗产是昏头?实际上她清醒得很

财经要闻

股民当街砍博主!韩国股市 终极大屠杀

汽车要闻

把中国超跑卖到英国,比亚迪正在被世界看见

态度原创

旅游
游戏
健康
时尚
军事航空

旅游要闻

在福鼎嵛山看见海岛振兴的模样

《古剑》线下试玩报告:老大,俺最近又有长进"/> 主站 商城 论坛 自运营 登录 注册 《古剑》线下试玩报告:老大,俺最近又有长进 Marv...

刮痧也会刮出脑梗?讲个真实案例

今年最好看的4种颜色,太适合夏天了!

军事要闻

美军连续七晚空袭伊朗

无障碍浏览 进入关怀版