网易首页 > 网易号 > 正文 申请入驻

为什么你的智能体总跑偏?LangChain说目标范围设计错了

0
分享至

智能体能接的任务,这几年膨胀得厉害。从最早的简单文本生成,到工具调用、做决策,再到把一整件事从头跑到尾。下一步是接手开放式目标,自己一路推到完成。Hone 这类产品的出现,让人提前看到了那个未来的一角。


但在这个世界里,给智能体划范围成了要命的事。方向指错,烧掉的是成吨的 token。Hone 那套智能体配置里,一个关键动作就是给它们定义好用来优化的指标。

目标该怎么设计

LangChain 团队在做类似智能体时摸出一条规律:设计智能体的范围时,要让它在范围内干活的过程中,人类给出反馈这件事变得尽可能容易。

原因不复杂。智能体出错,很大一部分是缺了正确的上下文。要修,就得把上下文喂给它。有些上下文好办,比如接对文档、接对 API,改起来相对轻松。最难给的是那些压根没被写下来的上下文——它只能由人类专家以反馈的形式交到智能体手里。

这件事在智能体跨出可验证任务、开始和人在组织里一起做主观工作时,尤其关键。比如让智能体帮忙优化某个业务指标,像改进广告投放来提升营销表现,除了事实性上下文,还有大量细微偏好需要管住它的行为:你觉得什么听起来、看起来顺眼,你的品牌能野到什么程度。一个没法有效拿到反馈、学不会这些的智能体,很快就没用了。

反过来,如果智能体的范围设计得让人能轻松给出大量高质量反馈,那对打造一个能可靠追求长期目标的智能体帮助极大。还有一条相关经验:值得在审查智能体工作的交互体验上重投入,做得直观、顺手。智能体表现的瓶颈,常常就是它从反馈里学习的速度。所以要优化的,是反馈收集的容易程度和质量。

一个销售智能体的返工

Actively AI 给销售团队做智能体,它的第一版目标导向体验是“一个客户一个智能体”。每个智能体负责把一个潜在客户往前推,产出动作让销售代表审批。直觉上说得通:目标相对收敛、指向明确,结果也扎实。看起来关于这个客户的上下文最重要,那就围着客户来组织智能体。

跑起来之后,他们发现还有另一类重要上下文:怎么高效干活。具体说,怎么外呼、怎么回复、怎么谋划交易、该多激进、怎么在大组织里穿行。这类知识散落在多个智能体之间——你在一个客户身上学到外呼的门道,往往想搬到别的客户身上。

问题出在反馈环节。智能体盯单个客户时,销售很难高效使用它、也很难给它反馈。推进一个客户要干很多种活,这些活还常常分散在不同时间点。结果是:单个智能体任一时刻需要审的东西太少,人得在多个智能体之间来回切换;跨智能体共享学到的东西也很别扭,而这恰恰是必需的,因为它们在学同一件事。

第二版改掉了这个结构。新的目标导向智能体叫“motions”,一个 motion 就是一件具体的活,比如外呼、比如早期交易推进。这件活怎么干并没有明确定义,很多还跟某个销售代表的个人偏好有关。大量知识藏在销售脑子里,得作为反馈交给负责这个 motion 的智能体,它才能学。

因为一个 motion 是一堆相似任务的集合,销售把它们放在一起审就轻松多了。在一个任务上学到的反馈,天然能迁移到同一个 motion 里的其他任务上。反馈的范围和反馈的容易程度,就这样和智能体本身对齐了,做出强力的智能体也就容易得多。

这不等于客户上下文不重要,它当然重要。只是客户上下文往往已经被写下来,也更客观。于是 Actively 让负责收集上下文的智能体在后台跑,为每个客户攒好上下文;而真正把客户往漏斗下游推的活,交给跨多个客户工作的 motions。它们占住一段销售动作,从反馈里学得快得多,需要时再把每个客户的上下文拉进来。

以后会怎样

再往后,智能体会进化到这种程度:你只给一个目标,它自己出去优化那个目标。人类审查它们干的活很费时间,但极其值钱——那是教智能体做事、把它适配到你所在领域的方式。那些只存在于人脑子里的知识,值得被提取成容易传给智能体的形式。

要做到这一点,就得把智能体的目标对齐到人类最容易审查的东西上。这样你才能做出顺手的审查体验,榨出尽可能多的信息,让智能体持续学习,随时间变得越来越有用、越来越自主。

LangChain 的判断是:提示工程和上下文工程会消失,目标工程会留下。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深夜偷看“成人网站”,还以为没人知道?你可能被安排得明明白白

深夜偷看“成人网站”,还以为没人知道?你可能被安排得明明白白

荔子言
2026-11-06 10:27:06
波波维奇:当今联盟仅一人能让我考虑交换巅峰时期的邓肯!

波波维奇:当今联盟仅一人能让我考虑交换巅峰时期的邓肯!

林子说事
2026-11-16 01:33:04
重磅!马斯克曝出猛料,英伟达不少供应链仅口头约定,八万人请愿老黄回归

重磅!马斯克曝出猛料,英伟达不少供应链仅口头约定,八万人请愿老黄回归

清清诗话
2026-11-15 17:09:00
太前卫!学生情侣约定开房,房费一人承担一次,半年男方多次清算订房记录,不愿多出一分,女生哭诉

太前卫!学生情侣约定开房,房费一人承担一次,半年男方多次清算订房记录,不愿多出一分,女生哭诉

蝴蝶花雨话教育
2026-10-29 00:05:14
已确认!是他把老婆介绍给黄仁勋当情人,太狗血了!

已确认!是他把老婆介绍给黄仁勋当情人,太狗血了!

财经要参
2026-11-13 07:30:05
陈昌浩归国后低调生活,妻子任副部长,儿子却成为万人敬仰的大人物!

陈昌浩归国后低调生活,妻子任副部长,儿子却成为万人敬仰的大人物!

历史甄有趣
2026-11-15 19:20:13
免费时代全民听歌,收费时代众人弃歌:中国音乐究竟输在哪儿?

免费时代全民听歌,收费时代众人弃歌:中国音乐究竟输在哪儿?

浩渺青史
2026-11-16 02:34:06
深度长文:我们为什么一定会死?死亡可能不是故障,而是进化留的后门

深度长文:我们为什么一定会死?死亡可能不是故障,而是进化留的后门

宇宙时空
2026-11-15 21:25:10
外资撤离印度越南?美媒大胆预言:中国的西部,或成新世界工厂

外资撤离印度越南?美媒大胆预言:中国的西部,或成新世界工厂

王二哥老搞笑
2026-11-15 18:40:45
立下赫赫战功的志愿军军长隐姓埋名当农民,1955年授衔漏评,朱德上报毛主席:这功劳绝不能忘

立下赫赫战功的志愿军军长隐姓埋名当农民,1955年授衔漏评,朱德上报毛主席:这功劳绝不能忘

磊子讲史
2026-07-17 10:49:15
今晚开播!央一黄金档36集年代大剧来袭,这才是观众想看的国产剧

今晚开播!央一黄金档36集年代大剧来袭,这才是观众想看的国产剧

阿嬍体育评论
2026-11-16 01:40:40
警校退学潮:比考不上更可怕的事,考上了你才发现根本不合适

警校退学潮:比考不上更可怕的事,考上了你才发现根本不合适

糖逗在娱乐
2026-11-02 06:31:49
警惕!MCN杀猪盘套路:专挑女大学生下手,完不成直播任务就逼陪客抵债

警惕!MCN杀猪盘套路:专挑女大学生下手,完不成直播任务就逼陪客抵债

拍案社会
2026-11-15 10:08:36
中超转会传闻:曝国安酝酿“2换2”交易,引新门将+后防希望之星

中超转会传闻:曝国安酝酿“2换2”交易,引新门将+后防希望之星

体坛鉴春秋
2026-11-16 10:59:29
铁了心要与中国开战?俄专家大胆预测,日本或要同时迎战中朝空军

铁了心要与中国开战?俄专家大胆预测,日本或要同时迎战中朝空军

星落山间
2026-11-15 10:36:48
打起来了,5年来最大规模!乌克兰不宣而战,出动1200架无人机

打起来了,5年来最大规模!乌克兰不宣而战,出动1200架无人机

巷北楠猫本尊
2026-11-16 15:15:06
邵佳一更衣室喊话:给王钰栋创造空间;对手越压上越要站好

邵佳一更衣室喊话:给王钰栋创造空间;对手越压上越要站好

懂球帝
2026-11-16 11:19:08
“队友有时得塞钱接济我”——前NBA中锋回欧洲后曾穷到揭不开锅

“队友有时得塞钱接济我”——前NBA中锋回欧洲后曾穷到揭不开锅

中场哨
2026-11-15 19:32:40
多穿点!重庆大部地区最低气温将降至10°C

多穿点!重庆大部地区最低气温将降至10°C

上游新闻
2026-11-16 15:40:10
U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

U17世界杯:U17国少1-2洪都拉斯,对手上届3连败,斐济连输亚洲队

徐扙老表哥
2026-11-16 12:42:49
2026-11-16 18:47:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
203文章数 112关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

教育
家居
游戏
时尚
公开课

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

家居要闻

2026建博会(广州) 公装联探展交流活动

传《GTA6》主线约50个小时 全成就大约200个小时

“小棕裙”今年冬天爆火,这样穿时髦又松弛!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版