网易首页 > 网易号 > 正文 申请入驻

Meta 2020年埋下的这颗雷,4年后让GPT-4栽了17%的

0
分享至

2023年斯坦福一项研究让法律圈后背发凉:GPT-4每100句输出里,有17句是编造的。一位律师真把ChatGPT虚构的判例搬上法庭,案子直接崩盘。这不是模型变笨了,是它天生就没法"记住"训练截止后的任何事。

大语言模型(LLM)的参数里锁着海量知识,但这些知识像被封在琥珀里的昆虫——漂亮、完整、彻底静止。你的公司内部文档、上周的行业动态、昨天的股价,它一概不知。更麻烦的是,它生成内容时从不标注来源,只是按概率猜下一个词该是什么。

2020年,Meta的AI实验室(当时还叫Facebook AI Research)提出一个解法:Retrieval-Augmented Generation,简称RAG。思路很直白——别让模型硬背,给它配个能实时检索的外部知识库。输出前先去"查资料",再拿查到的东西当论据。相当于把闭卷考试改成开卷。

RAG的原始版本,其实是个"提线木偶"

最早的RAG架构简单粗暴。用户提问→系统去知识库搜相关片段→把片段和原问题一起塞给模型→模型基于这些材料作答。这套流程解决了"知识新鲜度"问题,但有个致命假设:搜出来的东西一定对,且一定够。

现实很骨感。知识库检索靠向量相似度,本质是"找长得像的"。用户问"苹果最新财报",系统可能捞出三年前的旧数据,因为关键词重叠度高。更隐蔽的是,模型对检索结果照单全收,不会质疑"这资料靠谱吗""够回答吗"。

这种单向流程就像让实习生去图书馆找资料写报告——找什么全凭关键词运气,找到什么算什么,从不主动追问"还有没有别的"。学术圈后来管这叫"朴素RAG"(Naive RAG),带着点嘲讽的善意。

从"查资料"到"做研究",中间差了三道坎

要让RAG真正可用,得补上三个缺口。

第一,检索得能迭代。一次搜索不够,要像研究员那样,根据初步结果调整关键词再搜。用户问"某芯片功耗",首轮可能只拿到营销话术;系统得识别出"缺实测数据",主动追加搜索"实验室评测""功耗曲线"。

第二,模型得会验证。拿到五篇资料,要能交叉比对——A说续航12小时,B说同场景只有8小时,得标记矛盾、追问细节、判断哪方更可信。而不是把五篇拼凑成一篇看似流畅的废话。

第三,流程得能分叉。复杂问题需要拆解。问"某国AI监管对出海企业的影响",得先拆成"现行法规有哪些""执法尺度如何""同类企业被罚案例",每个子问题走独立检索链,最后汇总。单线程的朴素RAG做不到这个。

Agentic RAG:给系统装上"职业习惯"

2023年后,行业开始把"智能体"(Agent)概念揉进RAG。核心变化是:系统不再被动执行检索-生成两步,而是获得目标导向的自主规划能力。

具体表现为几个新模块。路由(Routing):判断问题该走知识库、搜索引擎还是实时数据库。反思(Reflection):生成初稿后自检"这里缺数据支撑",触发补充检索。工具调用(Tool Use):发现需要计算时主动调Python,需要最新股价时调金融API。

这套架构的比喻很形象:朴素RAG是图书馆管理员,你问什么他找什么;Agentic RAG是雇佣了一位研究员——会追问需求、会查多源资料、会验证矛盾、会主动补漏。当然,成本也高了一个数量级。

关键区别在于反馈闭环。朴素RAG是直线,Agentic RAG是带循环的图。每一步输出都可能触发新的检索或计算,直到系统自己判断"够用了"。

目前主流实现分两类。一类是单代理深度模式,一个Agent包办规划、检索、验证全流程,适合复杂但边界清晰的问题。一类是多代理协作模式,检索员、验证员、撰写员各司其职,通过消息队列协作,适合需要多领域知识的任务。

LangChain、LlamaIndex等框架已经内置这些模块,但落地时有个隐形门槛:你的知识库质量。检索再聪明,库里的文档结构混乱、版本冲突、缺少元数据,系统也会反复踩坑。很多企业折腾半年Agentic架构,最后发现最大的ROI来自先把PDF整理成结构化数据。

斯坦福那17%的幻觉率,在Agentic RAG的实测中能被压到个位数。代价是延迟从秒级变成分钟级,单次成本涨5-10倍。技术选型回到那个老问题:你的场景,值得为准确性付多少溢价?

一位做企业知识库的朋友最近吐槽:客户总想要"研究员级"的准确度,却只愿付"管理员级"的预算。这个落差,大概才是RAG落地最持久的瓶颈。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深圳楼市新政12小时:多个新盘连夜“逼单”,有豪宅收回50万元优惠

深圳楼市新政12小时:多个新盘连夜“逼单”,有豪宅收回50万元优惠

时代周报
2026-04-30 11:30:18
喜报!武汉彩民中了688万元!

喜报!武汉彩民中了688万元!

越乔
2026-04-30 22:59:21
拜仁球员单赛季进球榜:盖德-穆勒66球第1,凯恩本赛季54球第3

拜仁球员单赛季进球榜:盖德-穆勒66球第1,凯恩本赛季54球第3

懂球帝
2026-04-30 07:11:04
清朝灭亡不过一百余年,上千万的满族人,为什么满语迅速消亡了?

清朝灭亡不过一百余年,上千万的满族人,为什么满语迅速消亡了?

铭记历史呀
2026-04-29 00:04:12
《爱情没有神话》被观众要求下架!理由:剧情不三不四、亲个没完

《爱情没有神话》被观众要求下架!理由:剧情不三不四、亲个没完

往史过眼云烟
2026-04-29 16:46:40
4瓶“鲜牛奶”,只有1瓶是真鲜奶

4瓶“鲜牛奶”,只有1瓶是真鲜奶

财观潮头
2026-04-27 20:08:37
违规三次永久禁入,上海5月10日起试行枢纽场站巡游出租车限制名单措施

违规三次永久禁入,上海5月10日起试行枢纽场站巡游出租车限制名单措施

澎湃新闻
2026-04-30 15:40:29
广西壮族自治区交通运输厅 中华人民共和国广西海事局关于2026年“五一”假期防范船舶碰撞桥梁的通告

广西壮族自治区交通运输厅 中华人民共和国广西海事局关于2026年“五一”假期防范船舶碰撞桥梁的通告

广西海事局
2026-04-30 20:10:41
汤杯淘汰赛抽签:中国位居上半区,将对阵马来西亚

汤杯淘汰赛抽签:中国位居上半区,将对阵马来西亚

懂球帝
2026-04-30 17:04:07
成语“半老徐娘”,“徐娘”指的是谁?代指多少岁?不懂别乱用!

成语“半老徐娘”,“徐娘”指的是谁?代指多少岁?不懂别乱用!

每日一首古诗词
2026-04-29 21:35:59
广州一段不到2公里的道路停了几百台车,不少都是僵尸车,有些轮胎已经气瘪了,附近街坊:抄完牌他们仍继续停;当地:将会开展整治

广州一段不到2公里的道路停了几百台车,不少都是僵尸车,有些轮胎已经气瘪了,附近街坊:抄完牌他们仍继续停;当地:将会开展整治

潇湘晨报
2026-04-30 11:55:09
2027 比亚迪海狮 8 亮相!颜值实力双双在线

2027 比亚迪海狮 8 亮相!颜值实力双双在线

味健的汽车
2026-04-29 15:20:03
世乒赛最大笑话!日本队喊“五五开”,松岛被王楚钦无视,底气在哪?

世乒赛最大笑话!日本队喊“五五开”,松岛被王楚钦无视,底气在哪?

宝哥精彩赛事
2026-04-30 18:51:45
乌克兰正式卖武器,泽连斯基称产能过剩50%,市场已打开

乌克兰正式卖武器,泽连斯基称产能过剩50%,市场已打开

桂系007
2026-04-29 05:24:08
浦东新区即墨路将实施限时步行街

浦东新区即墨路将实施限时步行街

上海交警
2026-04-30 16:11:59
美伊还没打完,第二个伊朗出现!对华使出卸磨杀驴,反向收割中企

美伊还没打完,第二个伊朗出现!对华使出卸磨杀驴,反向收割中企

解锁世界风云
2026-04-30 23:27:26
每体:曼联愿探索引进巴尔德,巴萨想5000万欧出售以获得资金

每体:曼联愿探索引进巴尔德,巴萨想5000万欧出售以获得资金

懂球帝
2026-04-30 16:00:10
英国国王「查尔斯三世」在美国国会发表演讲,如何解读?

英国国王「查尔斯三世」在美国国会发表演讲,如何解读?

闻号说经济
2026-04-29 14:27:39
深圳楼市新政杀到!但真正的问题不是限购

深圳楼市新政杀到!但真正的问题不是限购

朱罗纪
2026-04-30 22:32:43
偷税漏税风波后!网红白冰首现身,开千万跑车违停,惨被交警处罚

偷税漏税风波后!网红白冰首现身,开千万跑车违停,惨被交警处罚

裕丰娱间说
2026-04-30 08:26:09
2026-05-01 01:00:49
硬核玩家2哈
硬核玩家2哈
沉淀中,勿扰
1982文章数 7关注度
往期回顾 全部

科技要闻

9000亿美元估值,Anthropic即将反超OpenAI

头条要闻

英国国王给特朗普送了口钟 还贴脸开大"有需要尽管敲"

头条要闻

英国国王给特朗普送了口钟 还贴脸开大"有需要尽管敲"

体育要闻

季后赛场均5.4分,他凭啥在骑士打首发?

娱乐要闻

孙杨博士学历有问题?官方含糊其辞

财经要闻

易会满被“双开”!

汽车要闻

专访捷途汪如生:捷途双线作战 全球化全面落地

态度原创

健康
艺术
数码
公开课
军事航空

干细胞治烧烫伤面临这些“瓶颈”

艺术要闻

耗资21亿的故宫北院,网友看后直摇头:怎么撞脸高铁站了?

数码要闻

机械革命耀世18 Pro游戏本270HX Plus + 5070 12GB,10499元

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

意大利议会批准:捐赠航母给印度尼西亚

无障碍浏览 进入关怀版