ChatGPT是怎样“炼”成的？

（来源：团结报）

转自：团结报

　　主讲人：

　　邱新平

　　民建会员

　　江西财经大学教师

　　当你向ChatGPT（人工智能聊天机器人程序）提问“如何写一篇作文”时，它能在几秒内给出结构清晰、语言流畅的建议，甚至能模仿不同的文风。这不禁让人疑惑：一台机器为何能写出如此“人性化”的文章？它真的“理解”自己在说什么吗？

　　接下来，我们就来揭开ChatGPT的神秘面纱。

　　第一步：海量“阅读”——吸收整个互联网的文本

　　ChatGPT的“修炼”始于一场前所未有的“阅读计划”。在最初的“预习阶段”，它被“投喂”了几乎整个互联网的文本数据，包括书籍、新闻、百科、论坛帖子、代码库……其总量需要一个人昼夜不休阅读数万年。

　　它在这个过程中做了什么？并非理解，而是统计。

　　我们可以把ChatGPT想象成一个非常用功的学生，正在制作一张巨大的“词语联想法”表格。它不断统计哪些词经常一起出现，并记录它们之间的关联度。例如：“天空”后面常跟着“蓝色”“白云”“飞翔”；“下雨”的语境里常伴有“带伞”“潮湿”“降温”等词汇。

　　通过分析数以万亿计的词句，ChatGPT逐渐掌握了人类语言的规律，如怎么组词、怎么造句、什么话题常用什么词句。这一步的核心是学会“语言的概率”，即它知道在任意一段文字后面，出现哪个词的可能性更高。

　　第二步：接受“辅导”——人类的调教与修正

　　如果只完成第一步，ChatGPT就像一个拥有庞杂知识却不懂表达技巧的“书呆子”，可能生成冗长、无关甚至有害的文本。因此，它需要进入关键的“考试辅导阶段”——人类反馈强化学习。

　　这个过程分为以下几个步骤：

　　示范教学：人类培训师会提供高质量的对话示例（问与答），手把手地教ChatGPT怎样回答更好。

　　对比打分：让ChatGPT对同一个问题生成多个答案，由人类标注员评判哪个答案更佳。比如，对于“如何解释光合作用”，一个答案罗列生硬术语，另一个用比喻生动解释，后者会获得更高分。

　　自我优化：ChatGPT根据这些“好评”与“差评”，不断进行内部调整，让自己生成“人类更喜欢”的回答——更有益（helpful）、诚实（honest）、无害（harmless）的回答。

　　这就好比是引导一个天赋极高的孩子，先让他自由阅读积累知识，再通过老师的不断纠正和鼓励，教会他如何清晰、得体、有逻辑地表达。

　　第三步：实时“对话”——如何生成得体的回答

　　当你输入一个问题并按下回车键后，ChatGPT内部发生了什么？其实质是一个基于概率的“高级词语接龙”游戏。

　　理解输入：ChatGPT将你的问题转换为它能处理的数字形式，并激活与之相关的海量“语言概率记忆”。

　　逐字生成：它从第一个词开始预测。比如你问“夏天如何防暑”，它可能会计算“夏季”“天气”等词作为开头的概率，并选择一个最合适的。

　　循环推进：生成第一个词后，结合你的问题和已生成的词预测第二个词，如此循环，直至生成完整回答。每一步，它都在其庞大的概率词表中进行选择。

　　需要注意的是，ChatGPT没有意识，它不是在“思考答案”，而是在“计算序列可能性”。它的目标是生成一个最有可能与你的问题相匹配且符合人类偏好的词句序列。

　　知其强，也需知其限：它可能“自信地胡说”，由于依赖统计模式，当遇到训练数据不足或内部冲突时，它可能生成看似合理实则错误的内容（即“幻觉”问题）。它无法像人类一样基于事实和逻辑进行验证。它没有真正地理解，它不理解“悲伤”的情绪，只知道描述“悲伤”的文本常伴随哪些词语。它的知识有截止日期，它的“世界”停留在训练数据截止的那个时刻，无法主动获取新知识。

　　因此，ChatGPT更像是一面由人类知识和算法共同打造的“语言镜子”，它反射出人类集体文本的辉煌与庞杂。它的出现提醒我们，真正的智慧在于提出新问题、创造新知识、蕴含真情实感的理解与共鸣——这些，目前仍然是人类独有的。