GNU创始人斯托曼：ChatGPT是“胡扯生成器”

编译 | 苏宓

出品 | CSDN（ID：CSDNnews）

对于 AI 工具，有人爱，也有人讨厌。近日，自由软件之父 Richard Stallman（理查德·斯托曼） 在个人网站上发表一篇《不使用 ChatGPT 的理由》的文章，直言现在的 AI 工具并非真正的智能，它们根本不理解自己生成内容的意义。他甚至将 ChatGPT 称为“胡扯生成器”，理由是它生成的内容“对真相毫不在意”。

值得一提的是，Richard Stallman 是 GNU 计划与自由软件基金会（FSF）的创始人。他在 1980 年代发起 GNU 项目，旨在构建一个完全自由的操作系统，并推动软件应当被自由使用、研究、修改和再发布的理念。他最广为人知的贡献包括 Emacs 编辑器、GNU 编译器套件（GCC）等基础工具，以及对 GPL 等自由软件许可证的设计和推广。

他发表的言论，也引发了不小的争议。

ChatGPT 并非真正的智能？

斯托曼在博文中写道：

ChatGPT 并不是“智能”，所以请不要称它为“AI”。

我对“智能”的定义是能够认识或理解事物，至少在某个领域内应如此。而 ChatGPT 无法认识或理解任何事物，所以它不是智能。它并不知道自己的输出意味着什么，也不理解文字可以有意义。

我称它为“胡扯生成器”，因为它生成的内容“对真相毫不在意”。

同样的理由也适用于许多其他“生成系统”。

公众普遍错误地将智能归于这些系统，导致数百万人对它们产生了错误的信任。请与我一起传播这样的信息：人们不应该信任那些只会机械地玩弄文字、却不理解文字含义的系统。

另一个特别拒绝使用 ChatGPT 的理由是，用户无法获得它的副本。它是未发布的软件——用户连可执行文件都拿不到，更别提源代码。使用它的唯一方式是通过与一个远离用户的服务器交互。

在别人的服务器上运行软件来进行自己的计算，本质上会破坏你的计算自由。

对 AI 的定义

与此同时，斯托曼引用了 GNU 官方网站上从自由软件角度对术语的解释，并结合自己的理解，对当前几类基于训练神经网络的系统进行了分类说明：

• 人工智能：适用于在某个领域（大或小）具备知识和理解的系统。

• 胡扯生成器：适用于像 ChatGPT 这样的大语言模型（LLMs），它们生成听起来流畅的语言，看似陈述事实，但对语言的语义完全不理解。这一结论得到了 Hicks 等人在 2024 年发表的论文《ChatGPT 是胡扯》的支持。

• 生成系统：适用于生成艺术作品的系统，其中“真与假”的概念并不适用。

目前，这三类任务大多通过“机器学习系统”实现，这类系统处理由大量数值组成的数据，并根据“训练数据”调整这些数值。一个机器学习系统可能是胡扯生成器、生成系统，或者人工智能。

对此，有人认可斯托曼的观点：

“他并没有说错。它不是智能，而是智能的一种拟像。它可以有用，但绝不能被完全信任。而且，它当然也算不上什么促进自由与开放的福音。”

也有人觉得分歧在于每个人对于「AI 的定义」有所不同所导致：

“当我学习计算机科学时，人工智能的实践课程是造一台循线机器人，或者实现一个基于高斯差分（DoG）的边缘检测算法。现在任何东西都能被称作‘AI’，接受每个人划定‘AI’界限的不同，是合理的。”

还有网友反驳道：

「不，他在这一点上说偏了。他退回到像“ChatGPT 无法认识或理解任何事物，所以它不是智能”这样的模糊表述，这表明你看到的更多是意识形态，而非分析。我是说，这句话在一定程度上是对的。但它和对你我来说一样，都是无法被严格证明的，只是在“理解”和“认识”这两个词的语义上绕圈子而已。

特别是他称 ChatGPT 真正只是一个“胡扯生成器”的说法，确实 100% 正确。但对地球上所有有智慧的人类来说，这句话也同样成立。

归根结底，AI 出错的原因，基本和我们人类出错的原因一样。我们都依靠直觉做出关于生活的判断，然后把“推理”和“逻辑”附加上去，作为事后优化的技能，这些技能都需要训练才能掌握。

（顺便说一句，我对自由软件的观点更能产生共鸣。所有这些模型都只在资金雄厚的私人环境中运行和成长，随着技术成熟，肯定会带来一些非常糟糕的外部影响。）」

那么，你如何看待斯托曼的观点？

https://news.ycombinator.com/item?id=46203591

https://www.stallman.org/chatgpt.html

【报名倒计时，限免】C++之父中国行 · 40周年庆典｜北京·上海开发者见面会正式开启！

• 北京站：12月12日 · 北京金隅喜来登酒店

• 上海站：12月14日 · 上海淳大万丽酒店