网易首页 > 网易号 > 正文 申请入驻

2个场景,LangChain用轻量模型给Agent循环降本

0
分享至

用GPT级模型回答一个二选一的问题,就像开卡车送一封信。这句话来自一篇关于LangChain集成Jev模型的分享,说的正是Agent循环里那个被忽视的成本黑洞。

Agent在「观察-决策-行动」的循环里,会频繁调用大模型。但很多决策其实非常简单——分类、判断、二选一。用重量级模型处理这类问题,延迟和成本会在循环中被不断放大。


两个落地场景

LangChain集成Jev这种「System One」轻量模型,主要用在两个地方。

一是模型路由。根据任务复杂度,把请求分流到不同成本的模型上。简单任务走轻量模型,复杂逻辑才交给慢思考模型。

二是自动模式护栏。在执行危险操作之前,用轻量模型做一次快速风险拦截,相当于随时踩闸。

快慢协同的分工

这套思路的核心是快慢思考模型的协同。慢思考模型负责核心驾驶,处理复杂逻辑;快模型负责踩闸和分流,也就是风险拦截与模型路由。

两者不是替代关系,而是分工关系。重活交给大模型,轻活交给小模型,避免让大模型在循环里反复处理简单分类。

这种模式已经在社区实践中得到验证,涉及浏览器自动化、实时交易和邮件分类等场景。

对于正在搭建Agent的开发者来说,这套分工提供了一个直接的优化方向:先想清楚哪些决策真的需要大模型,哪些只需要一个快速判断。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
错怪郭士强,中国男篮输日本,揪出第一混子球员,必须要淘汰

错怪郭士强,中国男篮输日本,揪出第一混子球员,必须要淘汰

宗介说体育
2026-09-19 10:15:11
安吉丽娜·朱莉自曝:不想再推人消费,我要离开洛杉矶了

安吉丽娜·朱莉自曝:不想再推人消费,我要离开洛杉矶了

自愈小日子
2026-09-18 19:43:06
1986年,中央军委决定公开邓稼先的身份,亲友疯狂拨通许鹿希电话:他还活着吗?

1986年,中央军委决定公开邓稼先的身份,亲友疯狂拨通许鹿希电话:他还活着吗?

纪史行者
2026-09-07 05:50:07
第20届亚运会开幕,中国代表团入场

第20届亚运会开幕,中国代表团入场

观察者网
2026-09-19 19:04:30
“在轨武器”刚曝光,美军高官又公开表示“做好赢得地月作战的准备”

“在轨武器”刚曝光,美军高官又公开表示“做好赢得地月作战的准备”

澎湃新闻
2026-09-18 17:44:03
中央领导悼念仅1天,央视对敬一丹称呼变了,2字之差释放强烈信号

中央领导悼念仅1天,央视对敬一丹称呼变了,2字之差释放强烈信号

史之韵
2026-09-19 01:09:03
被0-7打服?德甲队官方喊话:19岁亚马尔闭嘴!拜仁2人才配拿金球奖

被0-7打服?德甲队官方喊话:19岁亚马尔闭嘴!拜仁2人才配拿金球奖

我爱英超
2026-09-19 07:01:35
外媒:沙特罕见向以色列提出支援请求

外媒:沙特罕见向以色列提出支援请求

参考消息
2026-09-19 19:11:58
真的来了!特斯拉开启新车预订,国内为 33.2 万!

真的来了!特斯拉开启新车预订,国内为 33.2 万!

XCiOS俱乐部
2026-09-19 19:31:50
又不胜,2-3,热刺遭英超倒数第二掀翻,新赛季开局连续5轮不胜

又不胜,2-3,热刺遭英超倒数第二掀翻,新赛季开局连续5轮不胜

侧身凌空斩
2026-09-19 21:34:09
赛力斯一夜变东风小康?百万粉丝问界车主发文自嘲

赛力斯一夜变东风小康?百万粉丝问界车主发文自嘲

PChome电脑之家
2026-09-19 18:18:38
彻底炸锅!黄秋生陈冠希时隔 21 年合体拍片,片方顶风操作遭全网抵制

彻底炸锅!黄秋生陈冠希时隔 21 年合体拍片,片方顶风操作遭全网抵制

内地那鱼线场
2026-09-19 19:48:04
高市改组内阁大换血!转头向我国喊话,中日关系要变天?

高市改组内阁大换血!转头向我国喊话,中日关系要变天?

共工之锚
2026-09-19 00:14:00
云南楚雄7岁哥哥和2岁妹妹被胡蜂蜇亡,伤口数分别达300和700余处,父亲:有人指责我们“生而不养”,后悔外出务工,大不了就穷一点

云南楚雄7岁哥哥和2岁妹妹被胡蜂蜇亡,伤口数分别达300和700余处,父亲:有人指责我们“生而不养”,后悔外出务工,大不了就穷一点

大风新闻
2026-09-19 17:15:06
齐达内点兵!法国公布23人名单:5大新人+11将被弃 26岁法甲金靴圆梦

齐达内点兵!法国公布23人名单:5大新人+11将被弃 26岁法甲金靴圆梦

我爱英超
2026-09-19 06:26:31
博士答辩被拒回村行医30年!62岁老村医火了,回应:尽量别打扰他

博士答辩被拒回村行医30年!62岁老村医火了,回应:尽量别打扰他

华庭讲美食
2026-09-19 08:11:50
朱德在中南海养兰花被毛泽东批评,忍痛将全部兰花送人!

朱德在中南海养兰花被毛泽东批评,忍痛将全部兰花送人!

品点历史
2026-09-18 08:48:00
一年三款车,想想就怕。

一年三款车,想想就怕。

深读时刻
2026-09-19 05:14:10
美国太强大了!核电今年集中爆发,要像造车一样成为流水线

美国太强大了!核电今年集中爆发,要像造车一样成为流水线

爆角追踪
2026-09-19 16:30:02
手搓动画《牛来》票房6300万 母子二人基本财富自由

手搓动画《牛来》票房6300万 母子二人基本财富自由

3DM游戏
2026-09-17 12:00:04
2026-09-19 21:44:49
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
282文章数 96关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

亚运会尴尬频出:住宿差吃得也差 韩国运动员发文"救命"

头条要闻

亚运会尴尬频出:住宿差吃得也差 韩国运动员发文"救命"

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

自毁前途5年赵薇露面!家境被扒出

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

大块头的从容 红旗G919如何兼顾豪华与越野能力

态度原创

亲子
教育
房产
数码
手机

亲子要闻

《0帧起手》#内容过于真实#万万没想到#姐弟日常#彩虹糖裴曼伊

教育要闻

华东师范大学出版社人工智能通识课程走进江阴课堂

房产要闻

海口房价,降不动了!

数码要闻

荣耀HONOR Life墨水屏官宣,9月28日亮相

手机要闻

ColorOS 17硬刚OriginOS 7:谁才是2026年机圈真正的系统卷王?

无障碍浏览 进入关怀版