生成式人工智能与知识生产创新

孙茂松清华大学人工智能研究院常务副院长、计算机科学与技术系长聘教授

知识生产与两个关键环节密不可分：知识的产生和知识的传播。两者相辅相成：好的知识是好的传播的动力源，而好的传播又能通过知识的“教化”作用，在人们利用所学解决各类问题的生产和生活实践中催生更多好的知识。古往今来，上述过程“环复转运，终始无端”，不断丰富着人类的知识宝库。

在漫长的历史演进中，知识的生产与拓展，长期带有少数“智者”留下的鲜明印记。随着时代的发展，“智者群”的数量会渐次扩大，但在整个人群里相对来说仍是少数。进入现代社会特别是互联网时代，这种状况发生了急剧变化，普罗大众可以依托互联网信息技术对知识的生产作出贡献。知识传播模式的演进更是令人叹为观止，从文字产生前以语音为知识载体的口口相传，数千年前以泥板、莎草纸、羊皮卷、甲骨、竹简、绢帛等为载体的文本手抄，到1000多年前尤其是数百年来以纸张为载体的图书印刷，百余年来以广播、电影、电视为载体的模拟及数字内容生产，再到近30年来以互联网和社交网络为载体的跨模态数字内容生产，知识生产以其范式持续更替所引发的巨大能量推动着人类文明进步。纵观历史，无论是造纸术、印刷术，还是模拟和数字通信、互联网等，无一不是当时的重大科技发明。科技的一次次重大进步，促成了知识生产的一次次范式创新。

近年来勃兴的以语言大模型为基础的生成式人工智能，无疑会促成知识生产的又一次范式变革。与此前所有知识生产范式中人类始终是唯一主体不同，这次破天荒地增加了一个全新的“主体”——机器。传播模式中所关涉的主体，现在既可以是人，也可以是机器，并且两者相互杂糅，构成了异常复杂的多重关系。众所周知，语言大模型具有强大的语言生成能力，同时具有较好的开放式语言理解能力。机器能做到这一点，是千百年来未曾有过的局面。向量表征、自注意力机制、强化学习、思维链等一系列令人眼花缭乱的技术创新，加之大参数、大数据、大算力的强力加持，以及复杂系统涌现机理的“玄妙”作用，诸多要素的风云际会造就了这一奇迹。语言大模型在基本学会人类语言的同时，还将海量语料中蕴含的万千世界知识及逻辑推理能力，以参数化的形式整合到模型中。《人类简史》的作者尤瓦尔·赫拉利曾表示：“人类文化基于语言。而因为人工智能已经破解了语言，它现在可以开始创造文化。”事态的发展似乎正在印证这个判断。今年年初，被称为“龙虾”的OpenClaw开源智能体框架火爆全球，其核心驱动正是语言大模型优良的理解和生成能力。语言大模型可以说是OpenClaw的“大脑”，一定意义上形成了人工智能的“操作系统”，可用来构建并运行各类“技能”，以完成包括知识生产在内的各种任务。这为人工智能在经济文化社会等领域的推广应用，提供了难得的发展机遇。

但同时也要看到，语言大模型远非完美。本质上它是概率模型，在语言理解上，不能保证如人类一般精准可靠；在语言生成上，会出现“与生俱来”的“幻觉”现象，即生成虚假信息。换言之，OpenClaw的“大脑”时不时会犯糊涂，更麻烦的是，何时犯糊涂、犯怎样的糊涂，很难预料。其结果是当我们将“动作”的权力赋予OpenClaw时，它不能保证不出错，就好像在“瓷器店里捉老鼠”，即使非常小心，打碎一两件瓷器也在所难免，也就是说，OpenClaw天然存在安全隐患。此外，训练语言大模型使用的互联网语料中，往往掺杂人类的各种偏见与谬见，致使模型也存在偏见与谬见。一项随机抽样调研显示，截至2026年3月，互联网上由人工智能生成的文章数量与人类撰写的文章数量基本相当。尽管这个调研比较初步，存在采样规模过小等不足，但还是能从侧面反映出一种现象：现如今互联网上的文章不少是机器写的，我们却可能浑然不觉，无意识地受其影响。这个进程尚处于刚刚开始的阶段，如果不予以必要治理，今后会愈演愈烈，甚至会涉及意识形态安全、责任伦理、学术不端和知识产权等问题。生成式人工智能在进行知识生产时，从真实性、可靠性、安全性等诸多角度对我们提出了新的挑战。

这里面还会生发一些更为深刻的问题。例如，语言大模型是通过海量文本训练出来的，可谓汇总、融通了所有人的知识，性能顶尖的大模型可望得到最广泛人群的青睐和使用，于是乎它仿佛成了唯一的“智者”，在“人人为模型，模型为人人”的闭环迭代中，互联网时代“多对多”的传播模式反而有可能退回到过去印刷时代与电视时代“1对多”的传播模式，只不过此时的“1”已变成了机器，而不再是人了。此外，语言大模型会倾向于生成概率意义上“共识”较大的内容，而易忽视具个性禀赋的内容，导致知识生产出现某种平庸化、同质化倾向。有研究表明，生成式人工智能可以提升个体创造力，却降低了“新颖”内容的集体多样性。这个似乎有些矛盾的结论，其实是不难理解的。

知识生产创新中面临的此类带有普遍性的问题，促使我们必须深入思考：第一，在知识生产与传播进程中，如何处理好人和机器的关系？毋庸置疑，在这个进程中人始终应占据主导地位。生成式人工智能应成为人类的好助手、好伙伴，但绝不能“反客为主”，人是当然的主体和核心。第二，在人机共存的基本条件下，如何更积极地发挥人在知识生产中的主观能动性？第三，生成式人工智能可加速知识发现与整合，以及无时不在、无远弗届的知识传播，如何在此基础上有效重构知识生产新范式，使其与时、与世俱进？第四，生成式人工智能降低了知识生产门槛，如何以此为契机更好调动和挖掘大众知识生产能力，与专家知识生产形成互补？

总的来看，语言大模型乃至生成式多模态大模型的快速发展，给知识生产创新带来前所未有的机遇和挑战。面对技术迭代引发的深刻变革，应始终高扬人的主体性，在人与机器协同中探索知识生产的创新之路，让生成式人工智能真正成为人类文明进步的加速器。

来源：《求是》2026/11