网易首页 > 网易号 > 正文 申请入驻

为什么一个提示词干三件事,反而会悄悄出错?

0
分享至

一份合规审查,过去被塞进一条长提示词里:读文档、判断哪些内容重要、写出回应。简单案例上它跑得通。边缘案例一到,失败方式却很难被察觉——摘要里悄悄多出一条来源根本没提的处罚,或者判断已经被模型正在起草的稿子带偏。


问题出在设计,不在模型。当一个上下文里同时装着互相竞争的目标——忠于事实、做出判断、写得有说服力——它们会彼此拉扯。解法是把工作拆开。

一个智能体,只干一件事

给每个智能体安排单一的转换任务。原本一条提示词完成的合规审查,拆成三个智能体:

  • 抽取智能体:把事件的事实从来源中拉出来,填进固定字段。
  • 评估智能体:只依据抽取出的字段,判断这些事实是否越过某个门槛,比如重要性。
  • 起草智能体:依据评估结果写出回应。

评估智能体从来看不到原始文档,它的语气就无法左右判断。抽取智能体从来看不到草稿,起草也就无法渗进事实里。

写反目标,别写人设

“你是一位一丝不苟的法律审计员”听起来很严格,实际几乎约束不了什么。审计员人设照样会给建议、改写句子,或者用猜测填补空白。真正管用的是一串“绝不能做”的清单。以抽取智能体为例:

  • 绝不陈述来源中不存在的事实;字段缺失时用 null。
  • 绝不判断某件事是否重要。
  • 绝不改写、概括或软化来源的措辞。
  • 绝不添加模式中没有的字段。

反目标可以被测试:你可以拿输出去对照检查。人设不行。

交接的是契约,不是对话

把此前的完整聊天记录传给每个智能体很诱人。这既消耗 token,又把拆分工作本要避免的污染带了回来。更合适的做法是:每个智能体接收一份固定的 JSON 载荷,并返回一份。载荷里包含事件日期、受影响系统、暴露记录数、数据类型和来源引文等字段。

每一次交接都要校验载荷。如果某个键缺失或类型不对,就停在那里,而不是让下一个智能体去猜。

先写规格,再写提示词

动手写任何提示词之前,先为每个智能体填一行:它的角色、范围内是什么、它的反目标、它接受的输入、它保证的输出。课程里把这叫做智能体规格矩阵。以抽取智能体为例:角色是把来源变成固定事实;范围仅限来源文档;反目标即上面四条;输入是来源文本;输出是经过校验的 JSON 载荷。

大多数设计错误会在这里暴露出来,比如两个智能体干同一件事,或者某个输出根本没人用——而此时修改的成本还很低。

别拆得过头

每一次交接,都是多一个可能出错的环节。只在目标互相竞争的地方拆分,不要再往下切:三个契约清晰的智能体,胜过八个边界模糊的。在把它们放到一起运行之前,先用固定输入逐个单独测试。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

巷北楠猫本尊
2026-11-16 16:00:00
天生鬼才的五大星座!

天生鬼才的五大星座!

别人都叫我阿螫
2026-11-18 15:33:09
Anthropic,正在用AI创造一种全新的企业组织

Anthropic,正在用AI创造一种全新的企业组织

未尽研究
2026-10-29 02:19:57
内娱姐妹花:决裂10年,拒绝复合

内娱姐妹花:决裂10年,拒绝复合

最人物
2026-11-18 15:45:33
诸葛亮到底是不是军事家?粟裕认为不是,打仗不行,是政治谋略家

诸葛亮到底是不是军事家?粟裕认为不是,打仗不行,是政治谋略家

史明人生
2026-11-18 19:45:09
西红柿为啥变难吃了?不是农业倒退,而是人类被迫交的“生存税”

西红柿为啥变难吃了?不是农业倒退,而是人类被迫交的“生存税”

浩渺青史
2026-11-18 03:14:52
麦考利·卡尔金再演《小鬼当家》:这次他让麦当劳全员消失

麦考利·卡尔金再演《小鬼当家》:这次他让麦当劳全员消失

自愈小日子
2026-11-18 03:00:27
晨起喝温水是错的?医生苦劝:不想住进医院,晨起喝水牢记5点

晨起喝温水是错的?医生苦劝:不想住进医院,晨起喝水牢记5点

健康之光
2026-07-30 20:15:03
成都成华区一外卖员凌晨送餐在业主门口翻鞋柜、细看女鞋,已报警

成都成华区一外卖员凌晨送餐在业主门口翻鞋柜、细看女鞋,已报警

不写散文诗
2026-11-18 11:21:10
央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

晓肂爱八卦
2026-11-17 20:47:39
远超2008年?多位专家预言2027年可能爆发金融危机,共有五大因素

远超2008年?多位专家预言2027年可能爆发金融危机,共有五大因素

磊子讲史
2026-10-28 16:22:52
海南一空姐被穷打工仔追求,婚后一个月,她才得知丈夫真实身份

海南一空姐被穷打工仔追求,婚后一个月,她才得知丈夫真实身份

小月文史
2024-11-19 21:11:58
萨穆埃尔告别阿根廷队:感谢大家的配合,这些年过得非常精彩

萨穆埃尔告别阿根廷队:感谢大家的配合,这些年过得非常精彩

懂球帝
2026-11-18 20:04:29
安徽一对夫妻杀人后潜逃20年,各自另组家庭,谁料,妻子成公司高管丈夫成大老板

安徽一对夫妻杀人后潜逃20年,各自另组家庭,谁料,妻子成公司高管丈夫成大老板

LULU生活家
2025-11-06 18:29:11
演员吴彦祖现身街头邀请路人一同吃饭遭拒绝,当事人回应:“我真的肠子都悔青了”

演员吴彦祖现身街头邀请路人一同吃饭遭拒绝,当事人回应:“我真的肠子都悔青了”

韩小娱
2026-11-16 11:58:27
德国清退数千架中国无人机,禁令管牌子不管零件

德国清退数千架中国无人机,禁令管牌子不管零件

反做空一线
2026-11-17 23:51:47
黄仁勋女儿怒斥高管,父亲辞职后她仍留英伟达

黄仁勋女儿怒斥高管,父亲辞职后她仍留英伟达

野生运营
2026-11-17 07:44:55
洪金宝长子洪天明自曝全家定居杭州生活!曾和周家蔚长期分居,多次提离婚

洪金宝长子洪天明自曝全家定居杭州生活!曾和周家蔚长期分居,多次提离婚

TVB剧评社
2026-11-18 16:39:30
博主吐槽PS5版《GTA6》性能堪称噩梦 还有延迟问题

博主吐槽PS5版《GTA6》性能堪称噩梦 还有延迟问题

游民星空
2026-11-18 23:28:03
炸锅,最近银行低风险理财都亏麻了!

炸锅,最近银行低风险理财都亏麻了!

樱桃大房子
2026-11-19 00:19:27
2026-11-19 02:23:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
256文章数 104关注度
往期回顾 全部

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

科技要闻

离职后首份声明!黄仁勋认错愿回归

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
旅游
家居
数码
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

不止桐子坳!湖南5处银杏秘境上新,从千年古树到银杏王,带你邂逅秋日金色浪漫

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

微星RTX Spark迷你主机EdgeMesa N AI+上市,售价33999元起

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版