AI“胡说八道”从何而来？麻省理工学者追溯到1950年代

AI幻觉常被当成模型没训好的缺陷，但麻省理工学院历史学系助理教授本杰明·林德奎斯特（Benjamin Lindquist）给出的解释是：它可能从一开始就被设计进去了。林德奎斯特同时在麻省理工学院施瓦茨曼计算学院与电子工程与计算机科学系（EECS）任职，也是信息与决策系统实验室的首席研究员。他在发表于《过去与现在》（Past and Present）期刊的新论文中，把AI幻觉的起源追溯到20世纪50年代的早期研究。

他的核心判断是：生成式人工智能的模型，根植于一批20世纪中期工程师的想法——他们认为，一台能像人一样思考的机器，需要一定程度的“非理性”。为了让机器模仿创造性思维，这些AI先驱有意把随机性注入原本用于确定性求解问题的算法里。

数学不是用来制造秩序的

林德奎斯特提到，科学界和艺术界长期有观点认为，偶然性在发现和创造中扮演重要角色，它关系到人能否产生新想法。这些人把创造力等同于意料之外的逻辑跳跃，甚至等同于一种类似梦境的状态，让人从新的角度看待事物。

20世纪50年代初，贝尔实验室知名电气工程师约翰·皮尔斯（John Pierce）有一个流行看法：数学在艺术领域是有价值的。这个想法在早期计算领域的从业者中流传很广。人们想到包含数学的艺术作品，往往会联想到秩序与精确，皮尔斯的结论却相反——他认为数学的用处在于能把秩序从艺术中移除，然后以一种经过计算的方式，给艺术加入一束“意外”，借此偏离陈词滥调、加入不规则性，而这种不规则性恰恰可能带来洞见。

给原本可预测的计算机加入不规则性，一个流行做法是使用人工（随机）神经网络。许多早期神经网络由心理学家搭建，他们认为，人工神经网络让科学家得以构建大脑的模型，从而观察内部发生了什么，包括大脑如何产生“有产出的错误”。在这些研究者看来，这类系统不是黑箱，而是打开心智黑箱的窗口，让人窥见内部那些混乱却真实发生的过程。

但AI领域还有另一派观点：创造性思维不过是“正常”思维做得更好而已。林德奎斯特说，这两种理解智能与创造力的极简启发式，如何契合又如何不契合，本身就很值得看。当时的争论，本质上是在追问人的创造力究竟归结为什么，以及如何以机器的形式把它重新构建出来。

早期研究者要的恰恰是“意外”

今天人们想到AI系统，想到的是ChatGPT或Claude，看重它们是因为大多数时候给出的答案是正确的。林德奎斯特说，研究中最让他意外的一点是，早期这类系统的许多拥护者看重它们，理由恰恰相反——他们想要一个偶尔给出偏离预期答案的系统。当时已经有系统能给出合理、符合预期的答案，他们之所以认为神经网络有价值，是因为它能给出意料之外的、甚至古怪离奇的答案。

这种看法上的差异，部分可能来自系统的运行方式。早期这些系统被限制在实验室里，一个给出古怪或错误输出的系统，并不会产生现实后果。而现在，OpenAI或Anthropic不愿让聊天机器人给出意外或创造性的答案，背后有法律和金钱上的原因。林德奎斯特用“打磨”来形容这种变化：这些系统核心处可能仍保留着那种古怪，但它现在在很大程度上被压制了。

符号AI曾长期占据主流

在很长一段时间里，占据主导的是“符号AI”。简单说，符号AI认为世界建立在规则之上，AI研究者的任务是尝试用事实和命题重建关于世界的知识，再把它输入计算机。

使用随机性解决问题的神经网络在20世纪50年代开始获得关注，但很早就失宠。心理学家弗兰克·罗森布拉特（Frank Rosenblatt）是神经网络早期的重要人物，他在1971年自己43岁生日当天意外去世。林德奎斯特描述他是一个有魅力、强势的人，对基于神经网络的系统能做什么做过很多宏大承诺。到罗森布拉特去世时，向符号AI的转向已经在进行中。林德奎斯特说，如果他活得更久，事情可能会不一样。

但神经网络从未消失。到20世纪80年代，它们更多转向认知科学领域。要变得更强、更有用，神经网络需要大量数据和算力，而这直到互联网出现才真正到来——大量数据变得可得，计算能力开始提升。大约在2012年，神经网络开始超过并甩开一种统计形式的机器学习，此后持续增长。

压制幻觉，代价在别处

林德奎斯特认为这段历史留下了一个警示。早期工程师的想法和经历说明，人们可以努力压制幻觉，让AI按某种方式表现、不产出意外或不受欢迎的答案，但这样做会有其他后果。这些历史人物抓住了某些东西：AI能给出的令人意外的、创造性的结论，与错误或幻觉之间存在联系。把系统建成某一种行为方式，就存在取舍。也许不可能完全站在光谱的任何一端，但当人们着力强化某一件事时，往往会在无意中牺牲掉另一些东西。