AI术语速查：从大语言模型到不透明循环

AI正在重塑世界，同时也在发明一整套全新的词汇来描述这一过程。如今参加任何产品会议、路演或专题讨论，你都会听到人们频繁提及大语言模型、RAG、RLHF——以及上周才出现的"不透明循环"（opaque recurrence），这是OpenAI新款Astra模型中让AI安全研究人员感到不安的推理技术。这些词汇更新的速度之快，足以让科技圈里非常聪明的人也感到有点吃力。

这份术语表就是为了解决这个问题：用通俗易懂的语言解释你最可能遇到的AI术语，无论你是在用这些技术构建产品、进行投资，还是只是想跟上行业步伐。我们会随着领域的发展定期更新，所以可以把它当作一份持续演进的文档，就像它所描述的AI系统一样。

通用人工智能（AGI）

通用人工智能，即AGI，是一个模糊的概念。但它通常指的是在多数（甚至绝大多数）任务上比普通人类更有能力的AI。OpenAI首席执行官萨姆·奥特曼曾将AGI描述为"相当于一个可以雇来当同事的中等水平人类"。而OpenAI的章程将AGI定义为"在大多数具有经济价值的工作中表现优于人类的高度自主系统"。谷歌DeepMind的理解与这两种定义略有不同；该实验室认为AGI是"在大多数认知任务上至少与人类能力相当的AI"。感到困惑？别担心——站在AI研究前沿的专家们同样如此。

AI智能体

AI智能体是指利用AI技术代表用户执行一系列任务的工具——超越了普通AI聊天机器人的能力范畴——比如报销费用、订票或预订餐厅座位，甚至编写和维护代码。不过正如我们之前解释过的，这个新兴领域涉及许多活动部件，因此"AI智能体"对不同的人可能意味着不同的事情。相关基础设施也仍在建设中，以实现其设想的能力。但其基本概念暗示的是一种自主系统，它可能会调用多个AI系统来完成多步骤任务。

API端点

可以把API端点想象成软件背后的"按钮"，其他程序可以按下这些按钮让它执行操作。开发者利用这些接口构建集成——例如，让一个应用程序从另一个应用程序中提取数据，或者让AI智能体直接控制第三方服务，而无需人工逐一手动操作每个界面。大多数智能家居设备和联网平台都有这些隐藏的按钮，尽管普通用户从未看到或与之交互。随着AI智能体能力不断增强，它们越来越能够自行发现并使用这些端点，这为自动化开辟了强大——有时也出人意料的——可能性。

思维链（Chain of thought）

面对简单的问题，人脑几乎不需要思考就能作答——比如"长颈鹿和猫哪个更高？"但在许多情况下，你往往需要纸笔才能得出正确答案，因为其中存在中间步骤。例如，如果一个农场主养了鸡和牛，它们总共有40个头和120条腿，你可能需要写下一个简单的方程才能算出答案（20只鸡和20头牛）。

在AI语境中，大语言模型的思维链推理是指将一个问题分解为更小的中间步骤，以提高最终结果的质量。这通常需要更长时间才能得出答案，但答案更有可能正确，尤其是在逻辑或编程场景中。推理模型是在传统大语言模型基础上开发的，并通过强化学习针对思维链思考进行了优化。

（参见：大语言模型）

编程智能体

这是比"AI智能体"更具体的概念，指能够自主采取步骤逐步完成目标的程序。编程智能体是应用于软件开发的专门版本。它不只是简单地建议代码让人类审查和粘贴，而是能够自主编写、测试和调试代码，处理通常占用开发者大量时间的迭代性试错工作。这些智能体可以在整个代码库中运作，发现漏洞、运行测试、推送修复，几乎不需要人工监督。可以把它想象成雇佣了一个从不睡觉、从不分心的超快实习生——不过和任何实习生一样，人类仍需审查其工作成果。

算力（Compute）

尽管这是一个含义较为多元的术语，但算力通常指的是让AI模型得以运行的关键计算能力。这类处理能力驱动着整个AI行业，赋予其训练和部署强大模型的能力。这个术语常常是提供计算能力的硬件的简称——比如GPU、CPU、TPU以及构成现代AI产业基石的其他各种基础设施。

深度学习

深度学习是自我改进型机器学习的一个子集，其中AI算法被设计成具有多层的人工神经网络结构。与线性模型或决策树等更简单的基于机器学习的系统相比，这使它们能够建立更复杂的关联。深度学习算法的结构从人脑神经元的密集互联通路中汲取了灵感。

深度学习AI模型能够自行识别数据中的重要特征，而无需人类工程师定义这些特征。这种结构还支持算法从错误中学习，并通过反复调整的过程改善自身的输出。然而，深度学习系统需要大量数据点才能产生良好结果（通常是数百万甚至更多）。与更简单的机器学习算法相比，它们的训练时间通常也更长——因此开发成本往往更高。

（参见：神经网络）

扩散模型（Diffusion）

扩散是许多生成艺术、音乐和文本的AI模型的核心技术。受物理学启发，扩散系统通过不断添加噪声来逐渐"破坏"数据（例如照片、歌曲等）的结构，直到数据完全消失。在物理学中，扩散是自发且不可逆的——溶解在咖啡里的糖无法恢复成方糖形态。但AI中的扩散系统旨在学习一种"逆扩散"过程来还原被破坏的数据，从而获得从噪声中恢复数据的能力。

蒸馏（Distillation）

蒸馏是一种通过"教师-学生"模型从大型AI模型中提取知识的技术。开发者向教师模型发送请求并记录其输出结果。有时会将答案与数据集进行比对，以检验其准确性。这些输出随后被用来训练学生模型，使其学习逼近教师模型的行为。

蒸馏技术可以基于一个大型模型，在蒸馏损失最小的情况下打造出更小、更高效的模型。这很可能就是OpenAI开发GPT-4 Turbo（GPT-4的更快版本）的方式。

虽然所有AI公司内部都会使用蒸馏技术，但也可能有一些AI公司用它来追赶前沿模型。对竞争对手模型进行蒸馏通常违反了AI API和聊天助手的服务条款。

微调（Fine-tuning）

这指的是对AI模型进行进一步训练，以针对比其先前训练重点更具体的任务或领域优化性能——通常通过输入新的、专门化（即面向特定任务）的数据来实现。

许多AI初创公司以大语言模型为起点构建商业产品，但都在争相通过在早期训练周期基础上补充自身特定领域的知识和专长进行微调，来提升对目标行业或任务的实用性。

（参见：大语言模型）

生成对抗网络（GAN）

GAN，即生成对抗网络，是一种机器学习框架，支撑着生成式AI在生成逼真数据方面的一些重要进展——包括（但不限于）深度伪造工具。GAN涉及使用一对神经网络，其中一个网络利用其训练数据生成输出，并将其传递给另一个模型进行评估。

这两个模型本质上被设计为相互竞争。生成器试图让其输出蒙混过判别器，而判别器则致力于识别人工生成的数据。这种结构化的对抗可以在不需要额外人工干预的情况下，优化AI输出使其更加逼真。不过GAN更适合较窄的应用场景（例如生成逼真的照片或视频），而非通用型AI。

幻觉（Hallucination）

幻觉是AI行业用来描述模型编造信息的首选术语——即生成不正确的信息。显然，这对AI质量而言是个大问题。

幻觉会产生具有误导性的生成式AI输出，甚至可能导致现实生活中的风险——带来潜在危险的后果（想想一个返回有害医疗建议的健康查询）。

AI编造信息的问题被认为是训练数据存在缺口的结果。幻觉问题正在推动行业朝着日益专业化和/或垂直化的AI模型发展——即需要更窄专业知识的特定领域AI——以此作为减少知识缺口和降低虚假信息风险的一种方式。

推理（Inference）

推理是运行AI模型的过程。它是让一个模型根据先前看到的数据进行预测或得出结论。需要明确的是，没有训练就没有推理；模型必须先从一组数据中学习模式，然后才能有效地从这些训练数据中进行推断。

许多类型的硬件都能执行推理，从智能手机处理器到强劲的GPU，再到定制设计的AI加速器。但并非所有硬件都能同样出色地运行模型。非常大的模型如果放在笔记本电脑上进行预测，可能需要极长时间，而在配备高端AI芯片的云服务器上则要快得多。

（参见：训练）

大语言模型

大语言模型是ChatGPT、Claude、谷歌Gemini、Meta的AI Llama、微软Copilot或Mistral的Le Chat等热门AI助手所使用的AI模型。当你与AI助手聊天时，你实际上是在与一个大语言模型互动，它会直接处理你的请求，或借助网页浏览、代码解释器等各种可用工具来处理。

大语言模型是由数十亿个数值参数（或称权重，见下文）构成的深度神经网络，它们学习词语和短语之间的关系，并创建一种语言表示形式，即一种多维的词语地图。

这些模型是通过对数十亿本书籍、文章和文字记录中发现的模式进行编码而创建的。当你向大语言模型输入提示时，模型会生成最符合该提示的最可能模式。

（参见：神经网络）

内存缓存

内存缓存指的是提升推理效率的一个重要过程（推理是AI针对用户查询生成响应的过程）。本质上，缓存是一种优化技术，旨在提高推理效率。AI显然是由高强度的数学计算驱动的，每次进行这些计算都会消耗更多的算力。缓存旨在通过为未来的用户查询和操作保存特定计算结果，来减少模型可能需要运行的计算次数。内存缓存有多种类型，其中比较知名的一种是KV（键值）缓存。KV缓存适用于基于Transformer的模型，通过减少生成用户问题答案所需的时间（以及算法工作量），提高效率并加快出结果的速度。

（参见：推理）

模型上下文协议（MCP）

模型上下文协议，即MCP，是一种开放标准，让AI模型能够连接外部工具和数据——你的文件、数据库，或Slack、谷歌Drive等应用——而无需开发者为每一对连接单独构建定制连接器。可以把它想象成AI界的USB-C接口。Anthropic于2024年推出了MCP，随后将其移交给Linux基金会，此后被OpenAI、谷歌和微软相继采用，成为近年来AI领域普及速度最快的标准之一。

混合专家模型（MoE）

混合专家模型是一种模型架构，将神经网络分割成许多更小的专门化子网络，即"专家"，并且针对任何给定任务只激活其中一小部分专家。与将每个请求都通过整个模型处理不同（就像每个问题都要召集整个办公室的人一样），MoE模型内置了一个"路由器"，能为具体任务精准挑选合适的专家。这使得构建规模庞大但运行速度较快、成本相对低廉的模型成为可能，因为在任何时刻只有一部分网络在工作。Mistral AI的Mixtral模型就是一个知名例子；业内普遍认为OpenAI较新的GPT模型也采用了某种版本的这种方法，尽管该公司从未正式确认过这一点。

（参见：神经网络、深度学习）

神经网络

神经网络是指支撑深度学习的多层算法结构——更广泛地说，也是在大语言模型出现之后，整个生成式AI工具热潮的基础。

尽管从人脑密集互联的神经通路中汲取灵感，将其作为数据处理算法的设计结构这一想法可以追溯到20世纪40年代，但真正释放这一理论威力的，是近年来通过电子游戏产业兴起的图形处理硬件（GPU）。这些芯片非常适合训练层数远超以往时代的算法——使基于神经网络的AI系统能够在语音识别、自主导航和药物发现等诸多领域取得远胜以往的表现。

（参见：大语言模型）

神经语言（Neuralese）

一种假设中的最坏情况场景，即模型完全用其内部数值表示进行推理，而不使用人类可读的语言，导致其思维过程完全成为一个黑箱。目前没有任何已发布的模型达到这种程度——OpenAI表示其Astra模型（于2026年9月发布，因率先使用"不透明循环"推理技术而引人注目）仍然保持思维链的可读性，并反驳了将其与神经语言相提并论的说法。但安全研究人员指出，Astra对不透明循环的使用（定义见下文）是朝这个方向迈出的实质性第一步，这也是为什么该术语在Astra发布相关报道后急剧升温的原因。

不透明循环（Opaque recurrence）

不透明循环是指AI模型将同一查询在其内部层中反复循环处理，而不是用明白易懂的语言进行逐步推理。这种方式效率更高——较小的模型可以在消耗更少算力的情况下发挥出超出其规模的能力——但留下的可读痕迹远少于正常的思维链（即你向聊天机器人求助后看到的那种实时讲解）。这让安全研究人员感到担忧，因为这些日志是发现异常行为的关键工具——而这种技术可能会让这种监督变得困难得多。

（参见：思维链）

开源

开源指的是底层代码向所有人公开，供任何人使用、检查或修改的软件——或者越来越多地指AI模型。在AI领域，Meta的Llama系列模型就是一个突出的例子；Linux则是操作系统领域著名的历史先例。开源方式让全世界的研究人员、开发者和公司能够在彼此的工作基础上继续构建，加速进步，并支持封闭系统难以轻易提供的独立安全审计。闭源意味着代码是私有的——你可以使用产品，但无法看到其内部工作原理，OpenAI的GPT模型就是如此——这一区别已成为AI行业中最具代表性的争论之一。

并行化（Parallelization）

并行化是指同时做多件事，而不是按顺序一件件做——就像让10名员工同时处理项目的不同部分，而不是一名员工按顺序完成所有工作。在AI领域，并行化是训练和推理的基础：现代GPU专门设计用来同时执行数千次计算，这也是它们成为该行业硬件支柱的重要原因。随着AI系统日趋复杂、模型规模不断扩大，能否在众多芯片和众多机器之间实现并行处理工作，已成为决定模型构建和部署速度与成本效益的最重要因素之一。对更优并行化策略的研究如今已成为一个独立的研究领域。

内存末日（RAMageddon）

RAMageddon是对科技行业正在蔓延的一个不那么有趣的趋势起的一个有趣新称呼：随机存取存储器（RAM芯片）的短缺日益加剧，而这种芯片几乎为我们日常使用的所有科技产品提供动力。随着AI行业蓬勃发展，各大科技公司和AI实验室都在争相打造最强大、最高效的AI，因此大量采购RAM用于支持其数据中心，导致留给其他人的份额所剩无几。而这种供应瓶颈意味着，剩下的存储芯片正变得越来越昂贵。

这波影响波及游戏行业（各大公司不得不提高主机价格，因为其设备的存储芯片变得更难获取）、消费电子行业（存储短缺可能导致智能手机出货量出现十多年来最大幅度的下滑）以及一般企业计算领域（因为这些公司自己的数据中心也难以获得足够的RAM）。价格上涨预计只有在这场令人头疼的短缺结束后才会停止，但遗憾的是，目前几乎没有迹象表明这种情况会很快发生。

循环深度（Recurrent depth）

这是一个更"技术性"的名称，指代与不透明循环相同的底层方法（将查询在模型层中反复循环，而不是用语言进行顺序推理）。媒体几乎可以互换使用这两个术语，这也是我们将其收录于此的原因，不过"循环深度"是工程术语，而"不透明循环"则是强调安全担忧的表述方式。

（参见：不透明循环、思维链）

递归自我改进（Recursive self-improvement）

与AGI一样，递归自我改进（RSI）也是衡量AI能有多聪明、能在多大程度上摆脱对人类依赖的一个门槛。在RSI场景中，AI模型开始在没有人类干预的情况下自我改进，从而带来能力和自主性的巨大飞跃。在某些说法中，这将是一个类似奇点的灾难性时刻，即AI模型变得不受外部干预影响。但RSI也描述了一种基本能力——AI模型能否设计出自己的继任者？——这使工程师更容易尝试构建它。近来有不少AI初创公司着手打造具有递归自我改进能力的模型，但大多数公司都摒弃了那种末日论式的解读，而是将RSI呈现为研究的下一个前沿领域。

强化学习

强化学习是一种训练AI的方式，系统通过不断尝试并因正确答案获得奖励来学习——就像用零食训练你心爱的宠物一样，只不过这里的"宠物"是一个神经网络，而"零食"是表示成功的数学信号。与在固定的标注示例数据集上训练模型的监督学习不同，强化学习让模型探索环境、采取行动，并根据收到的反馈不断更新其行为。这种方法在训练AI玩游戏、控制机器人方面被证明特别有效，最近还被用于提升大语言模型的推理能力。诸如从人类反馈中进行强化学习（RLHF）这样的技术，如今已成为顶尖AI实验室微调模型、使其更有帮助性、更准确、更安全的核心手段。

Token

在人机交流方面，存在一些明显的挑战——人类使用人类语言进行交流，而AI程序则通过基于数据的复杂算法过程执行任务。Token架起了这座桥梁：它们是人类与AI交流的基本构成单位，代表着经大语言模型处理或生成的离散数据片段。它们是通过一种叫做分词的过程创建的，该过程将原始文本分解成语言模型可以消化的小单位，类似于编译器将人类语言翻译成计算机能理解的二进制代码。在企业场景中，Token也决定着成本——大多数AI公司按Token使用量对大语言模型收费，这意味着企业用得越多，支付的费用也越多。

Token吞吐量

再次强调，Token是AI语言模型在处理语言之前将其分解成的小块文本——通常是单词的一部分而非完整单词；就理解AI工作负载而言，它们大致相当于"单词"。吞吐量指的是在给定时间段内能够处理的量，因此Token吞吐量本质上是衡量一个系统能同时处理多少AI工作量的指标。高Token吞吐量是AI基础设施团队的重要目标，因为它决定了一个模型能同时服务多少用户，以及每个用户能多快收到响应。AI研究员安德烈·卡帕西曾描述过，当他的AI订阅服务处于闲置状态时，他会感到焦虑——这与他作为研究生时，看到昂贵的计算机硬件没有被充分利用时的感受如出一辙——这种情绪恰恰体现了为何最大化Token吞吐量已成为该领域某种意义上的执念。

训练（Training）

开发机器学习AI涉及一个被称为训练的过程。简单来说，这指的是将数据输入模型，以便模型能从模式中学习并生成有用的输出。本质上，这是系统对数据特征做出响应的过程，使其能够调整输出以趋向所追求的目标——无论是识别猫的图像还是按需生成一首俳句。

训练可能成本高昂，因为它需要大量输入，而所需的数据量一直呈上升趋势——这就是为什么混合方法（比如用有针对性的数据对基于规则的AI进行微调）有助于在不完全从零开始的情况下控制成本。

（参见：推理）

迁移学习（Transfer learning）

一种技术，将先前训练好的AI模型作为开发新模型的起点，用于处理不同但通常相关的任务——从而使先前训练周期中获得的知识能够被重新应用。

迁移学习可以通过缩短模型开发流程来提高效率、节省成本。当目标任务的数据相对有限时，这种方法也很有用。但需要指出的是，这种方法存在局限性。依赖迁移学习获得泛化能力的模型，通常仍需要在额外数据上进行训练，才能在其专注的领域中表现良好。

（参见：微调）

验证损失（Validation loss）

验证损失是一个数字，用来告诉你AI模型在训练过程中学习的效果如何——数值越低越好。研究人员会密切跟踪这个指标，将其当作一种实时成绩单，用来决定何时停止训练、何时调整超参数，或是否需要调查潜在问题。它有助于标记的一个关键问题是过拟合，即模型死记硬背训练数据，而没有真正学习到能够泛化到新情况的模式。可以把它想象成真正理解教材内容的学生和只是死记硬背去年考试题的学生之间的区别——验证损失有助于揭示你的模型正在成为哪一种。

权重（Weights）

权重是AI训练的核心，因为它们决定了训练系统所用数据中不同特征（或输入变量）被赋予多大的重要性（或权重）——从而塑造AI模型的输出结果。

换句话说，权重是数值参数，用来定义在给定训练任务中，数据集中哪些内容最为重要。它们通过对输入进行乘法运算来实现其功能。模型训练通常从随机分配的权重开始，但随着训练过程的推进，模型为了得到更接近目标的输出，权重会不断调整。

例如，一个用于预测特定地区房价的AI模型，如果基于该地区的历史房地产数据进行训练，可能会包含针对卧室和浴室数量、房产是独立式还是半独立式、是否有停车位、车库等特征的权重。

最终，模型赋予每个输入的权重反映了这些因素基于给定数据集对房产价值的影响程度。

本文将随着新信息的出现而定期更新。

Q&A

Q1：什么是不透明循环（opaque recurrence）？

A：不透明循环是指AI模型将同一查询在其内部层中反复循环处理，而不是用明白易懂的语言进行逐步推理。这种方式效率更高，但留下的可读痕迹远少于正常的思维链，让安全研究人员担心这会让发现异常行为变得更困难。

Q2：大语言模型和AI智能体有什么区别？

A：大语言模型是ChatGPT、Claude等AI助手背后使用的核心模型，主要负责处理和生成语言。而AI智能体是利用AI技术代表用户执行一系列任务的工具，比如报销费用、订票，甚至编写代码，能力范畴超越了普通聊天机器人。

Q3：什么是RAMageddon？为什么会影响到普通消费者？

A：RAMageddon是指随机存取存储器芯片短缺的趋势，因为AI公司大量采购RAM用于数据中心建设。这导致游戏主机涨价、智能手机出货量可能出现十多年来最大降幅，以及一般企业计算成本上升，价格上涨预计要等到短缺缓解后才会停止。