当AI一本正经地胡说八道……

来源：光明日报

【科学随笔·我见AI】

最近，四岁的女儿向我“汇报”幼儿园生活时，绘声绘色地描述她与一只霸王龙交朋友的故事：她们一起抓小恐龙，因为跷跷板闹翻，又交换零食和好……逻辑严密，细节丰富——尽管她的幼儿园里连只仓鼠都没有。细究之下才知，这孩子原来把绘本、动画和现实糅合在一起，用童言童语编织出一个“合理”的故事。

此情此景，也让我想到当下人工智能（AI）的“幻觉”现象：它能将虚构与真实无缝拼接，生成看似严谨实则荒诞的答案，仿佛一个捧着百科全书满嘴跑火车的天才儿童。

从前年爆火的ChatGPT到最近出圈的DeepSeek，AI正以肉眼可见的速度重塑生活。它既能帮中学生秒解几何题，也能替小说家生成缠绵的剧情。而若抛出一些不着边际的问题，譬如“从化学视角解析孙悟空火眼金睛是怎样炼成的”，它也能像模像样地编造出一大篇学术分析，甚至煞有介事地标注出参考文献。更令人啼笑皆非的是，当遭到质疑时，它会杜撰更多论据来自圆其说。这种真假难辨的“知识幻觉”一如沙上楼阁，看似气势如虹，实则千疮百孔。而在AI狂飙突进的当下，类似的“幻觉”还在被大批量生产出来。

要理解AI为何谎话连篇，得从它的学习方式说起。今天的AI普遍基于大语言模型（LLM）。在它问世之前，传统AI就像循规蹈矩的优等生，全靠死记硬背语法规则来答题解疑；而大语言模型更像炼丹术士，将庞大的语料放入“丹鼎”以期炼得“金丹”。哲学家维特根斯坦曾说，语言的意义不在预设的本质中，而在于日常的使用——就像孩子学说话，没人教“主谓宾”，全靠观察大人如何在饭桌上说“吃”，在踢足球时喊“跑”——维特根斯坦称之为“语言游戏”。大语言模型正是对这种游戏的算法化：它被抛入一个虚拟的语料世界中，吞下海量的文本材料，没有人告诉它该怎么出去，它只能自己从中摸索出一条道路来。

最终，涅槃重生的AI开口说话了——一面是口若悬河，一鸣惊人；另一面却是信口雌黄，“鬼话”连篇。

人们不吝赞美着AI的横空出世，却也正绞尽脑汁要给胡言乱语的AI“治病”。比如，为了防止AI幻觉泛滥，工程师们加装了“知识导航”（检索增强技术RAG）来引导它查证事实，铺设了“轨道护栏”（提示词约束）以防止答案跑偏，甚至请人类老师当“监考”（人类反馈强化学习RLHF）给胡诌打红叉。但即便如此严加管教，AI仍会冷不丁变成“脱缰野马”。就像班上总有几个聪明又调皮的学生，能把考场作文写成科幻史诗——你明知道他在编，却还得佩服其想象的不羁。

但或许问题不止于技术层面：究其本质，语言就是真伪交织的游戏。远古人类围着篝火编神话，中世纪的吟游诗人即兴歌唱，网友们在朋友圈嚷嚷“我有一个朋友”——虚构从未远离我们。AI不过是把这一本质端上了桌面。当它用《红楼梦》的文风改编科普文章，或用学术腔调分析“黛玉倒拔垂杨柳”，我们是该大呼造假之离谱，还是惊叹创新之乖奇？这又让我想起女儿的另一则“杰作”：她把动画片里的冰雪魔法，挪到了小区游乐场上，硬说滑梯的另一头连着艾莎公主的城堡。只不过，孩童的幻想至多令人莞尔，AI的幻觉却可能引发真实的麻烦——可不是所有人都能一眼识破那些“一本正经的胡说八道”。

但话说回来，当前条件下，要完全消除AI幻觉，就像苛求孩子永远不说童话——既不可能，亦无必要。关键是如何给“凌空蹈虚”划定赛道：譬如写小说时，自可天马行空；做学术时，便须脚踏实地。目前的主流解法是给AI装上“场景识别器”：当检测到用户需要严谨答案时，自动调用知识库交叉验证；若遇到创意写作，则无妨放飞自我。而要更进一步，就得考虑如何让AI“活”在更真实的语言游戏实践中了。如今的AI看似满口金句，实则是黑箱里的“书呆子”。倘能走出黑箱，交到“朋友”——比如在虚拟社区充当模拟成员，在学术论坛接受“同行”评议，甚至通过脑机接口感受具身经验——或许它能逐渐领悟：语言不仅是符号的概率游戏，而且是生活形式的一部分。

想象某一天，当AI能“感受”小吃摊主吆喝的肢体语言，或程序员代码错误时的尴尬表情，或许它再不会把火眼金睛说成是二氧化硅的高温玻璃化了。

技术狂飙的时代，人们总渴望用算法解决一切问题。但AI幻觉始终在当头棒喝：对理性正确的追求，和对生活世界的回归，需要建立一种动态平衡。如同孩子总会长大，总会学着区分基本的幻想与现实，在人类的引导下，AI的“成长”终将水到渠成。所以面对AI幻觉，与其杞人忧天，倒不如放手让它游戏，只要能不断进入更丰富的场景，领悟更多样的规则，书呆子也学得会“人情练达”。

（作者：鲁博林，系清华大学科学史系助理教授）