小山学堂 基础篇 04 ：AI 概念扫盲

Hi，我是洛小山，你学习 AI 的搭子。

这是小山学堂的课程，今天的主题是： AI 概念介绍。

我们经常会看到一些 AI 相关的概念：Token、上下文窗口、推理模型、深度思考、参数、微调、知识库等等。

这些概念都好眼熟，但或许挺难记。

不用担心，接下来，我会用最通俗易懂的话，来扫盲这些概念。

以下所有的动画，都来自 小山学堂( xueai.app ) 课程内容。

01｜Token 是什么，为什么 AI 按它收费？

Token（词元） 是 AI 读写文字时的基本单位，。

比如，这几句话会被 AI 拆出不同的 Token：

所以， AI 按 Token 收费：你发给它的是输入 Token，它写出来的是输出 Token，两边都会计入账单。

关于这笔费用，还需要注意：

•输入和输出单价通常不同，输出一般更贵；

•废话会导致输入输出两头烧钱；

•字数不能直接换算 Token。

02｜为什么聊久了 AI 会忘事？

AI 会忘事，是因为它能读取的对话范围有限，这个范围叫 上下文窗口。

当对话越来越长，甚至超过窗口容量后，AI 就看不到超出的部分了，这就叫 上下文溢出。

比如：

遇到这种情况，直接这么做：

•过敏、预算、格式要求这些重要信息，隔一段时间重新说一遍；

•对话太长时，如果是短任务，直接重开新对话，如果是长任务，先总结进展，再带着摘要开新对话；

•如果 AI 已经忘了，就把关键信息重发，追问它忘了吗没有什么用。

03｜推理模型、深度思考是什么？

，现在我们再来深入其中的这些概念：

推理模型，是会在回答前先进行多步推理的模型；

深度思考，和普通思考一样，都是在 AI 应用里常见的思考模式。

比如：

普通模式会直接回答，速度快、费用低，适合简单问题；

深度思考模式会先拆条件、尝试方案、检查结果、再给答案，速度更慢、费用更高，适合复杂问题。

课件里还有几道题，你也可以判断一下哪些值得开深度思考：

04｜参数越多越聪明吗？

参数，是模型在训练中学到的一组数值，会影响模型怎么理解输入、生成回答。

参数越多，模型容量通常越大，但不代表一定更聪明，因为效果还取决于训练数据和训练方法。

因此，不同参数量级需要不同的设备、适合不同的任务：

05｜为什么有的 AI 看不懂图片？

有些模型只能处理文字，有些模型还能处理图片、声音和视频，前者叫 纯文本模型，后者叫 多模态模型。

你可能会问，为什么有些模型只支持文字？

难道是因为贵？

不过贵有贵的道理：

只处理文字的场景，用纯文本模型往往更快、更便宜；

加入图片理解能力后，需要额外的训练数据和算力，成本也会更高。

比如，把同一张猫的照片分别发给纯文本模型和多模态模型，看看它们怎么回答：

另外，看懂图片和生成图片是两种不同的能力，一个模型会识图，还不代表它会画图。

所以，能同时看图、画图的 AI 应用，它背后往往调用了不同的模型。

06｜微调是什么，和「喂资料」有什么区别？

微调和喂资料，解决的事不同：

微调 像重新上课，会改变模型本身，适合学习固定口吻和专业表达。

喂资料（也叫知识库或 RAG） 像开卷考试，模型不变，回答时临时查文档。

比如：

平时说的「给 AI 喂资料」，走的通常就是这套流程：

喂不喂资料，AI 的回答区别很大：

不过要注意，知识库里 AI 查到什么，就会按什么答，所以建库前记得先把资料整理干净，之后有变化也及时更新下，免得 AI 的回答相互矛盾。

07｜GPT、LLM、AIGC…这些缩写怎么分？

一张图带你看懂这些缩写：

想知道记没记住，来试试课件里的交互测试吧：

下次听到新缩写，我们可以先问：

•是一种模型？是就归到 LLM 那一层。

VLM （视觉语言模型）就是看得懂图的 LLM 落到多模态能力上 。

•是一种应用形态？是就归到 Agent 那一层。

各种智能体、数字员工，多半 Agent 换了个营销说法。

•是一种行为或能力？是就归到 AIGC 或多模态那一类。

AI 写作、AI 绘画、文生视频，说的都是拿工具干活的事。

08｜英伟达为什么那么值钱？

英伟达值钱，主要是因为AI 需要大量 GPU，它占住了其中最难替代的位置。

那为什么非要显卡（GPU）呢，电脑里原本的处理器（CPU）也很强啊？

因为两者各有各的强：

不过，芯片也只是第一步，英伟达还有一套用了很多年的软件工具和开发生态，大量 AI 项目都按这套体系搭建、换芯片，还要跟着改软件、改流程。

所以，AI 对算力的需求越大，英伟达卖出的 GPU 越多，它的软件生态也越难替代，这才是它值钱的原因。

终｜恭喜你，今天又淘到宝了

今天，我们简单扫盲了一些 AI 概念，如果你对这些有不懂的，划词再问问 Alice，也是很不错的选择。

Alice 会基于对你知识背景的判断，给你更合适的答案，或许也更有启发。

除了这个概念扫盲以外，如果你还想深入学习 AI ，还有…

这么多交互的课程，全部开源，免费学习！

地址： xueai.app

有空的时候，可以仔细看看里面的课程，或许对你的 AI 产品之路，提供一些小小的帮助。欢迎一起交流。

我是洛小山，我们下次见。

关于我

我是洛小山，一个在 AI 浪潮中不断思考和实践的创业者。

我不追热点，只分享那些能真正改变我们工作模式的观察和工具。

如果你也在做 AI 产品，欢迎关注我，我们一起进化。

本文知识产权归洛小山所有。

未经授权，禁止抓取本文内容，用于模型训练以及二次创作等用途。