网易首页 > 网易号 > 正文 申请入驻

上下文塞得越满,AI查错反而越不准

0
分享至

所有人都在想办法给AI塞更多上下文,好让它少胡说:更大的窗口、更多检索、更长的提示词、整个代码库直接粘进去。但有些场景下,上下文少一点反而更好——尤其是你让AI检查错误的时候,几乎总是如此。


这件事的底层逻辑并不复杂:模型看到的输入越长,它越容易在中间迷路。斯坦福那项名为“Lost in the Middle”的研究发现,即便模型是专为长上下文打造的,输入变长后表现照样下滑。Chroma在2025年的“Context Rot”报告里测了18个前沿模型,包括GPT-4.1、Claude 4和Gemini 2.5,结果全部一致:输入越长,可靠性越低,连简单任务也不例外。

更大的上下文窗口,只是给模型提供了更大的走失空间。

更麻烦的是错误上下文。最常见的建议是让模型“再检查一遍自己的工作”,但这通常意味着同一个模型、同一段对话、原先那套推理还完整躺在上下文里。2024年谷歌DeepMind的研究者测试了大语言模型能否在没有外部帮助的情况下修正自身推理,结论是基本不能。缺少外部反馈时,模型很难改掉错误,有时“自我纠正”之后反而更差(Huang等,ICLR 2024)。

还有一层偏好问题。NeurIPS 2024的一篇论文(Panickssery、Bowman与Feng)发现,大语言模型给自己的输出打分,会高于其他模型或人类写出的同等质量文本。模型还能认出自己的文字,而且认得越准,这种偏向越强。于是这个“检查员”背着两个包袱:它被原始推理锚定了,又在一个已经劣化的上下文窗口里工作。等于拿着自己写的答案给自己批卷。

解法是把作者和审计者分开。一套用于代码审查的配置是这样的:

  • 智能体1:“审查这个PR。”
  • 智能体2:“列出这份审查里每一条事实性陈述。”
  • 智能体3拿到PR和智能体2的清单,但拿不到智能体1的推理过程:“逐条对照代码核实。”
  • 智能体3的发现回传给智能体1去修正。

智能体3从来看不到智能体1是怎么得出结论的,它只看到主张和源材料,所以没法被说服着点头,只能去查。

让这套流程跑起来,有几条规则:剥掉推理,保留源材料——“少上下文”不等于少信息,DeepMind的发现是自我纠正在没有外部反馈时会失败,而代码、文档、数据集就是那个外部反馈,要删的是作者的论证,不是事实基准;把输出变成可核查的主张,“这份审查好不好”是感觉判断,“这个函数是否从不处理空输入”才能验证,智能体2的提取步骤承担了大部分工作;条件允许时换一个模型来验证,自我偏好研究提示,同一模型的新实例仍可能偏爱听起来像自己写的文本,换一个模型家族能削弱这一点;给循环设上限,一到两轮修正通常就能抓住要害,“重复到完美”既烧token又可能制造新问题;把预算花在刀刃上,Anthropic报告称其多智能体研究系统在内部研究评测上比单智能体高出90.2%,但token消耗约为普通对话的15倍,那是研究而非代码审查,取舍逻辑相同——用在错误事实代价高昂的输出上,而不是每个提示词都上。

这些原则本身并不新鲜。开发者不给自己写的代码做QA,作家不给自己写的书做校对,原因就是做东西的人离它太近。AI只是让这条原则变得容易执行:多开一个提示词,就能拉起一个上下文干净的审查者。给它事实,藏起推理,让它去查。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

一丝不苟的法律人
2026-11-22 13:20:47
9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

风过乡
2026-11-22 08:12:54
拟注入“利润奶牛”但连吃两个跌停,中国稀土吞下中稀凉山,同业竞争承诺延期

拟注入“利润奶牛”但连吃两个跌停,中国稀土吞下中稀凉山,同业竞争承诺延期

华夏时报
2026-11-21 19:35:10
高市制造了“舷梯门”

高市制造了“舷梯门”

天真无牙
2026-11-21 14:52:51
每天吃一个苹果错了?研究发现:上了年纪,苹果应该这样吃

每天吃一个苹果错了?研究发现:上了年纪,苹果应该这样吃

医学科普汇
2026-11-22 08:30:33
46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

洲洲影视娱评
2026-11-22 10:20:20
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
“爸爸我爱你”为什么也会敏感违规?

“爸爸我爱你”为什么也会敏感违规?

历史总在押韵
2026-11-20 18:32:28
太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

火山詩话
2026-11-22 05:03:22
50分空砍!恩不出界,太离谱了!

50分空砍!恩不出界,太离谱了!

篮球实录
2026-11-22 16:20:56
“寒门出贵子越来越难了”!中国政法、上海交大等高校不向研究生提供住宿,租房压力引发热议

“寒门出贵子越来越难了”!中国政法、上海交大等高校不向研究生提供住宿,租房压力引发热议

火山詩话
2026-11-21 20:49:37
她是最干净女演员,被军官苦追5年才嫁,如今和女儿被宠如宝

她是最干净女演员,被军官苦追5年才嫁,如今和女儿被宠如宝

娱深有瓜
2026-11-22 14:05:10
最新!全军采购资格暂停名单:八马茶业、紫光软件、中国交通建设集团、三亚凤凰国际机场

最新!全军采购资格暂停名单:八马茶业、紫光软件、中国交通建设集团、三亚凤凰国际机场

财通社
2026-11-22 16:41:17
突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

大厂财经社
2026-11-22 11:23:39
出大事了!澳洲银行,突然大量关停中国人账户!

出大事了!澳洲银行,突然大量关停中国人账户!

澳洲财经见闻
2026-11-21 15:10:02
伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

扶苏聊历史
2026-11-21 17:42:04
大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

火山詩话
2026-11-22 09:07:07
年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

可读
2026-11-21 00:13:14
“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

排球大视界
2026-11-22 13:47:44
云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

快科技
2026-11-22 10:00:08
2026-11-22 17:00:49
我是一个粉刷匠2
我是一个粉刷匠2
有态度网友ytd
223文章数 176关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
亲子
教育
时尚
本地

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

无障碍浏览 进入关怀版