网易首页 > 网易号 > 正文 申请入驻

人人都能看懂的预训练、微调、提示词工程和 RAG(我保证)

0
分享至


封面图 By 即梦

这篇文章,我们用一个所有人都熟悉的案例,帮大家彻底理解大语言模型的那些"高大上"概念:


  • • 预训练

  • • 微调

  • • 提示词工程

  • • RAG(检索增强生成)。


这个案例就是我们每个人都经历过的学习考试过程

看完这篇文章,你会对AI的工作原理有全新的认识,以后使用AI时也会更加得心应手。

Tips:本文由 DeepSeek 基于我的录音稿整理润色,我只做了“微调”。

预训练

每学期开学,老师都会发给我们一堆教材,然后在课堂上讲解知识点。

这个过程中,我们把一学期的知识逐渐内化、理解和吸收——这其实就是大语言模型的预训练过程

这里有个关键区别:死记硬背 vs 真正理解。


  • 死记硬背:你只能记住题目和标准答案,考试遇到原题会做,但题目稍有变化就束手无策

  • 真正理解:你能融会贯通,应对不同的题型和场景——这正是现代大语言模型的核心策略


AI 回答 = 考试

考试时,你看到题目后会:


  1. 1. 理解题目要求

  2. 2. 调用大脑中相关的知识

  3. 3. 经过一系列推理和知识整合

  4. 4. 最终一个字一个字地写出答案


这完全就是AI回答问题的过程

当你向AI提问时,它也是:


  1. 1. 理解你的问题(提示词)

  2. 2. 调用预训练学到的知识

  3. 3. 经过内部推理和整合,逐字生成回答


提示词 VS 考试题

有时候,你学的东西太多太杂,面对一个很简单的问题时可能不知道关联哪个知识点。

这时,题目的清晰度就至关重要

如果老师在出题时明确说明:


  • • 考查哪一章哪一节的知识点

  • • 需要调用哪些具体知识

  • • 回答的格式要求


那么不管你的知识多杂乱,只要题目足够清晰,你就能准确调用相关知识作答。

提示词工程的精髓

这就是提示词工程的精髓

你向 AI 提问时:


  • • 问题越简单模糊,AI越可能"乱答"(其实是随机调用相关知识)

  • • 问题越详细、指向越明确、格式要求越规范,AI回答质量越高


小贴士:AI不是"乱答",而是它的知识太庞杂,当问题不明确时,它只能随机选择相关知识来回答。
微调 = 做真题

很多人误以为"这个知识AI不会,微调一下就好了"。这是对微调的误解

微调更像是考前老师带你做真题讲解:


  • • 你不知道高考会考什么题

  • • 但老师会讲解往年真题的正确答案和解题思路

  • • 通过这种方式,你学会"如何更好地作答"


微调的本质是教AI更好地作答,而不是教它新的知识。

如果某个知识点AI根本没学过,做再多真题(微调)也没用!

继续预训练 = 复读

要让AI掌握它原本不会的知识点,唯一的方法是继续预训练(相当于学生复读):


  • • 准备包含专有知识的语料(如公司内部资料)

  • • 这些语料包含对知识的解释和各种关联关系

  • • AI通过继续学习这些材料来掌握新知识


同样的道理,如果高考考到一个你完全没学过的概念,即使给你参考书,你短时间内也无法掌握并正确作答。

——这就是RAG(检索增强生成)的局限性。

RAG = 开卷考试

RAG就像开卷考试,它的关键在于如何准备和整理"小抄"


  • 糟糕的做法:直接带整本书进考场

  • 正确的做法:提前整理好知识点和关键词索引,考试时快速定位相关内容


所以做 RAG:


  • • 必须对进行精细清洗和拆解,确保片段完整

  • • 在确保段落完整的基础上尽量简短,方便抄


目前流行的"个人知识库"产品,只是简单拆分文档(如每2000字一段),这可能导致知识点被切碎,最终AI回答质量低下。
好学生 坏学生

大语言模型就像个"学习成绩很好好学生",但好学生不一定总能拿高分

因为它没有“好学生”的辨识判断力:


  1. 1. 它需要"好题目"(清晰的提示词),否则会随机选取知识点答题

  2. 2. 如果开卷考试提供的资料错误或者残缺,它不会纠正修复,而是硬抄

  3. 3. 遇到完全没学过的知识,做再多“真题”也无济于事


例如,我问Claude模型"什么是MCP"(Claude官方发布的新功能),它完全胡编乱造!因为:


  • • MCP发布时,模型已经"毕业"(训练完成)

  • • 它不懂,但会硬编


总结

人类和大语言模型在知识学习和输出的逻辑上惊人地一致。理解这一点,你就能:


  • • 更有效地使用AI工具

  • • 合理预期AI的能力边界

  • • 针对不同需求选择适当的方法(预训练、微调或RAG)


现在,你对大语言模型的工作原理是不是有了全新的认识?

更多 AI 的应用、讨论、分享,必须来AI 学习行动圈,3700+实战派正在分享用不完的创意!

一年多过去了,以星球和社群为载体的「AI 学习圈」


  • 沉淀了1500+条 AI 情报和实战技巧

  • 2700+个 AI 相关的行业报告;

  • 3700+个对 AI 感兴趣的职场人加入了我们的 6 个微信群

  • 在过去的连续300+天里每天可以收到我们推送的 AI 早报。


学习圈目前有 3 个核心的学习交流“阵地”:

  1. 知识星球:知识资料技巧沉淀的核心渠道,随时可查阅

  2. 微信交流群:目前 6 个群,每天都有圈友交流分享 AI 使用心得

  3. 吹水局直播:工作日晚 19:30-21:30,每场一个 AI 应用主题

阵地一:知识星球

我在星球里主要维护「实战分享」「工具箱」和「情报局」三个标签

实战分享是可以在日常工作和生活中直接应用的提示词和效率工具。上面截图里的 Step-Back 提示词就非常好用,堪比 o1。在公众号、直播中演示的所有 AI 实战应用的提示词也都在这个标签下。

AI 工具和鲜知道就是好用的、热门的 AI 工具、资讯分享,我把那些太技术、太浮夸的都筛选了,放进这个标签的都是可以直接用来的好玩儿!

星球还有一个“专栏”体系,目前的定位跟标签差不多。

如果你正在找一个能第一时间了解最新、实用的 AI 资讯和实战技巧,遇到任何 AI 应用问题能随时找到同行人交流、请教、讨论的圈子,

阵地二:微信交流群

我们为圈友配了微信交流群,现在 5 群快满了。

微信群里每天一早有 AI 早报,上下午还有“读报时间”,以及我每天不定期刷屏级的各种 AI 工具体验、提示词编排思考、行业新闻解读同步。

以及,你可以在群里讨论任何与 AI 相关的工具、应用问题,几乎都能找到答案。

如果你正在找一个能第一时间了解最新、实用的 AI 资讯和实战技巧,遇到任何 AI 应用问题能随时找到同行人交流、请教、讨论的圈子,

立刻扫码领取 50 元立减金加入

刚复盘我专门去视频号后台看了一下直播记录,过去一年一共为学习圈做了 130 场 AI 应用、实战、热点解读相关的直播,累计肝了 257 小时!

有十几场仅学习圈成员可观看的闭门直播,平均观看时长都是 1 个多小时,有时逼近接近 2 小时!

没点干货,平均停留时长到不了这水平的。

如果你正在找一个能第一时间了解最新、实用的 AI 资讯和实战技巧,遇到任何 AI 应用问题能随时找到同行人交流、请教、讨论的圈子,

立刻扫码领取 50 元立减金加入

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
斯诺克战报!常冰玉新赛季8连胜,德比战击败傅家俊,6冠王翻车!

斯诺克战报!常冰玉新赛季8连胜,德比战击败傅家俊,6冠王翻车!

刘姚尧的文字城堡
2026-07-13 20:47:34
传美军炸死伊朗革命卫队总司令: 伊朗当前最有权力的军方人物

传美军炸死伊朗革命卫队总司令: 伊朗当前最有权力的军方人物

桂系007
2026-07-13 15:15:56
糖尿病绝对禁止吃的8种水果!医生:一口就可能让血糖飙升

糖尿病绝对禁止吃的8种水果!医生:一口就可能让血糖飙升

冷眼看世界728
2026-07-13 19:14:47
女排大冷门!日本3-2逆转波兰,压哨进总决赛,中国女排止步8强?

女排大冷门!日本3-2逆转波兰,压哨进总决赛,中国女排止步8强?

刘姚尧的文字城堡
2026-07-13 08:02:43
湖人队新援谈他向科比·布莱恩特致敬的纹身,以及作科比球迷经历

湖人队新援谈他向科比·布莱恩特致敬的纹身,以及作科比球迷经历

好火子
2026-07-14 05:08:13
中超最命硬主帅罗斯内幕曝光:起早贪黑工作,弟弟无偿帮忙!

中超最命硬主帅罗斯内幕曝光:起早贪黑工作,弟弟无偿帮忙!

邱泽云
2026-07-13 16:50:27
75岁郭台铭色心不死,被爆迎来第三春了,老三50岁会提供情绪价值

75岁郭台铭色心不死,被爆迎来第三春了,老三50岁会提供情绪价值

毒舌小红帽
2026-07-12 19:57:21
马斯克有句话点醒过我“如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事。”

马斯克有句话点醒过我“如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事。”

LULU生活家
2026-07-07 20:59:47
未战先怯!输球不可怕,可怕的是德尚这番话:西班牙是夺冠热门!

未战先怯!输球不可怕,可怕的是德尚这番话:西班牙是夺冠热门!

田先生篮球
2026-07-13 21:55:21
投入巨资救活濒临倒闭的英国钢铁,却被英国政府强行接管!敬业钢铁再发声:必将悉数追偿,分毫不让

投入巨资救活濒临倒闭的英国钢铁,却被英国政府强行接管!敬业钢铁再发声:必将悉数追偿,分毫不让

每日经济新闻
2026-07-13 19:26:06
浙江,一男子,老婆怀孕了,无法与男子再发生关系,男子饥渴难耐

浙江,一男子,老婆怀孕了,无法与男子再发生关系,男子饥渴难耐

岁月有情1314
2026-07-13 17:34:05
狗狗被主人抛弃在机场570天,当主人回来接它时,看哭了所有人

狗狗被主人抛弃在机场570天,当主人回来接它时,看哭了所有人

千秋文化
2026-07-10 19:50:03
二代豆包手机来袭,华米OV为何集体冷静?

二代豆包手机来袭,华米OV为何集体冷静?

碳基打工人
2026-07-13 02:12:44
非必要不做肠镜?医生:只要做过肠镜,患者一定多加关注这4点!

非必要不做肠镜?医生:只要做过肠镜,患者一定多加关注这4点!

芹姐说生活
2026-07-09 23:13:04
为什么对一个孩子恶意这么大?全红婵被骂2年,瘦了7公斤

为什么对一个孩子恶意这么大?全红婵被骂2年,瘦了7公斤

观史搜寻着
2026-07-13 15:09:32
日本走投无路,开始了绝望的自救行动!

日本走投无路,开始了绝望的自救行动!

一个坏土豆
2026-07-11 19:23:23
金价,又跌了!“三金”越来越便宜

金价,又跌了!“三金”越来越便宜

新浪财经
2026-07-13 16:57:06
印度留学生自曝来中国留学,不到一周就谈了一个女朋友,还一直花对方的钱

印度留学生自曝来中国留学,不到一周就谈了一个女朋友,还一直花对方的钱

小徐讲八卦
2026-07-11 14:36:45
广东两市市委书记调整

广东两市市委书记调整

上观新闻
2026-07-13 18:20:05
巴菲特赚钱法则:经济寒冬别炒股,别买金,帮你稳赚的只有这3类

巴菲特赚钱法则:经济寒冬别炒股,别买金,帮你稳赚的只有这3类

卡西莫多的故事
2026-06-15 10:28:00
2026-07-14 05:27:00
运营派
运营派
互联网运营学习交流平台
2104文章数 28关注度
往期回顾 全部

科技要闻

OpenAI与Anthropic互掐,最强AI也怕你不用

头条要闻

前妻施南生离世 徐克深夜在医院门口发声

头条要闻

前妻施南生离世 徐克深夜在医院门口发声

体育要闻

世界杯月赚1.7亿,51岁的他仍是顶流

娱乐要闻

具俊晔“深情人设”崩塌,遗产瓜开撕

财经要闻

SK海力士暴跌15%原因找到了?

汽车要闻

小米澎程N90 Max工信部信息曝光 全尺寸旗舰 露营版首秀

态度原创

时尚
教育
家居
旅游
房产

papi酱,吓坏内娱

教育要闻

父母说到做到,才是永不塌房的好教育

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

广东亲子游新地标!一站式滨海度假,还有音乐会、烟花秀

房产要闻

重磅出炉!海南最新住宅全装修交付标准来了!

无障碍浏览 进入关怀版