人工智能为何会产生幻觉（唠“科”）

来源：高校人工智能与大数据创新联盟

在科幻电影中，人工智能常被塑造成全知全能的“超级大脑”，但现实中，AI却时常表现为“自信的谎言家”。比如，请AI描述“关公战秦琼”，它不仅能“叙述”虚构的故事情节，还会“猜测”用户喜好，煞有介事地编造不存在的文献档案。这种现象被称为“AI幻觉”，已经成为困扰许多人工智能企业和使用者的现实难题。

AI为什么会一本正经地胡说八道？根源在于其思维方式与人类存在本质不同。今天人们日常使用和接触最多的AI大模型本质上是一个庞大的语言概率预测和生成模型。它通过分析互联网上数以万亿计的文本，学习词语之间的关联规律，再像玩猜词游戏一样，逐字逐句生成看似合理的回答。这种机制使AI擅于模仿人类的语言风格，但有时缺乏辨别真伪的能力。

AI幻觉的产生与大模型训练的过程密不可分。AI的知识体系基本来源于训练时“吞下”的数据源。来自互联网的各类信息鱼龙混杂，其中不乏虚假信息、虚构故事和偏见性观点。这些信息一旦成为AI训练的数据源，就会出现数据源污染。当某个领域专业数据不足时，AI便可能通过模糊性的统计规律来“填补空白”。比如，将科幻小说中的“黑科技”描述为真实存在的技术。在AI被越来越多地用于信息生产的背景下，AI生成的海量虚构内容和错误信息正在进入训练下一代AI的内容池，这种“套娃”生态将进一步加剧AI幻觉的产生。

在大模型训练过程中，为了使AI生成满足用户需求的内容，训练者会设置一定的奖励机制——对于数学题等需要逻辑推理的问题，往往通过确认答案的正确与否给予奖励；对于写作等开放式命题，则需要判断其生成的内容是否符合人类写作习惯。为了训练效率，这种判断更多关注AI语言的逻辑性和内容格式等指标，却忽略了事实的核查。

此外，训练过程的缺陷也会导致AI存在“讨好”用户的倾向，明知道答案不符合事实，也愿意遵照指令生成迎合用户的内容，并编造一些虚假的例证或看似科学的术语来支撑自己的“假说”。这种“角色扮演式”的表达让许多普通用户难以分辨AI幻觉。上海交通大学媒体与传播学院进行的一项全国抽样调查显示，约七成受访者对大模型生成虚假或错误信息的风险缺乏清晰认知。

如何破解AI幻觉？开发者尝试通过技术手段为AI“纠偏”。比如“检索增强生成”技术，这意味着AI在回答前需要从最新的数据库检索相关信息，降低“信口开河”概率；一些模型被要求在不确定答案时主动承认“不知道”，而非强行编造答案。不过，由于目前的AI无法像人类那样理解语言背后的真实世界，因此这些方法难以从根本上解决AI幻觉问题。

应对AI幻觉，不仅需要技术规制，也需要从公民AI素养普及、平台责任、公共传播等维度构建系统性的“幻觉免疫力”。AI素养不仅包含使用AI的基本技能，更重要的是对AI幻觉要有基本的认知能力。明确技术平台的责任边界同样重要，AI产品在设计时就应嵌入风险提示机制，自动标记“可能存在事实性错误”等警示内容，并提供方便用户进行事实核查和交叉验证的功能。媒体可以通过定期发布AI伪造事实的典型案例，进一步培养公众的识别能力。通过多方联手，智能时代的认知迷雾才能被真正破除。（作者为上海交通大学媒体与传播学院特聘教授，人民日报记者黄晓慧采访整理）

全国高校人工智能与大数据创新联盟

全国高校人工智能与大数据创新联盟（简称:高校联盟）是由清华大学、浙江大学、中南大学、东北大学、上海工程技术大学、重庆邮电大学、东北林业大学、佛山科学技术学院、曲阜师范大学、黑龙江大学、海豚大数据科技等全国54家高校、企业共同发起，于2018年5月26日在北京中国科技会堂正式成立。迄今为止，联盟发展会员300多家, 覆盖全国20多个省市。联盟由一批积极投身于“人工智能、大数据、区块链”教育事业的高校、科研机构、企事业单位和个人自愿组成的公益性、全国性学术交流服务平台。中国工程院原常务副院长、中国工程院院士潘云鹤、中国科学院院士陈国良、中国工程院院士李伯虎担任联盟名誉理事长，中国工程院院士谭建荣担任联盟理事长。联盟工作接受工信部、国家网信办等政府部门行政管理和业务指导。联盟主要工作是推进产教融合、校企合作、协同育人。(加盟微信13651193492)

华算人工智能研究院

华算人工智能研究院全称是“山西省华算人工智能研究院有限公司”，是经山西转型综合改革示范区管理委员会批准，于2023年10月在太原成立的第一批专业研究人工智能、赋能数字经济产业发展的独立法人组织。华算人工智能研究院依托全国高校人工智能与大数据创新联盟专家委员会及理事会资源，按照山西省委省政府、山西转型综合改革示范区管理委员会发展人工智能、数字经济的系列文件精神和工作计划，将研究院打造成为山西省发展人工智能、数字经济的示范应用推广平台，同时面向全国开展人工智能业务。华算人工智能研究院名誉院长由中国工程院院士李伯虎担任。研究院内设AI产业学院共建中心、实训实习就业中心、实验室建设中心、专家智库等6个职能部门。欢迎加入华算人工智能研究院专家智库，共同赋能高校AI人才培养及产教融合事业发展。

高校区块链专委会

全国高校人工智能与大数据创新联盟区块链专委会（简称:高校区块链专委会），是由北京大学、浙江大学、武汉大学、西南财经大学、北京交通大学、郑州大学、贵州大学、桂林电子科技大学、山西农业大学、佛山科学技术学院、陕西师范大学、中国网安、海豚大数据科技等全国40多家高校、企业和机构共同发起，于2019年12月7日在广东省佛山市正式成立。目前发展高校及企业会员70多家。中国工程院院士、浙江大学教授陈纯担任高校区块链专委会名誉顾问；福州大学教授蔡维德、中国计算机学会区块链专委会主任斯雪明教授、中国人民银行数字货币研究所副所长狄刚担任高校区块链专委会名誉主任；北京大学信息科学技术学院区块链中心主任陈钟教授担任高校区块链专委会主任。高校区块链专委会主要工作是促进高校区块链教育，为高校区块链专业建设及学科发展提供专家咨询服务。

高校元宇宙专委会

全国高校人工智能与大数据创新联盟元宇宙专业委员会（简称:高校元宇宙专委会），是由清华大学、湖南大学、浙江大学、四川大学、汕头大学、河北金融学院、保定市元宇宙协会、英伟达中国、海尔衣联网研究院、海豚大数据科技(天津)有限公司等全国20多所高校、企业和机构共同发起，于2022年11月5日在北京正式成立。中国工程院院士、计算机软件与虚拟现实领域专家赵沁平担任高校元宇宙专委会名誉顾问；中国工程院院士、北京航空航天大学电气与自动化学院名誉院长、中国航天科工集团有限公司科技委高级顾问李伯虎担任高校元宇宙专委会名誉主任；清华大学信息国研中心可信软件和大数据部常务副主任邢春晓担任高校元宇宙专委会主任委员。目前已发展高校及企业会员30多家。高校元宇宙专委会主要工作是促进高校元宇宙教育、加强校企合作、推动元宇宙专业建设及学科发展，为元宇宙教育教学提供专家咨询服务。

高校数字经济专委会

全国高校人工智能与大数据创新联盟数字经济专业委员会（简称:高校数字经济专委会），是由华算人工智能研究院、清华大学、北京大学、中国人民大学、中国社会科学院信息化研究中心、四川大学、北京外国语大学、北京科技大学、北京工业大学、北京语言大学、北京化工大学、北京联合大学、北京物资学院、北京印刷学院、西藏民族大学、河北金融学院、重庆财经学院、苏州城市学院、北京中关村软件园、百度、海豚大数据科技等全国60多家高校、企业和机构共同发起，于2024年1月12日在北京正式成立。清华大学经济管理学院教授姜旭平、北京大学信息管理系教授赖茂生、中国社会科学院信息化研究中心主任姜奇平、中国科学院大学经济与管理学院教授吕本富担任高校数字经济专委会主任委员。高校数字经济专委会主要工作是促进高校数字经济专业建设及学科发展，推动产学研合作，为高校数字经济专业教育教学提供专家咨询服务。

联盟“资料图书馆”

微信咨询

说明：转载文章和图片均来自公开网络，推送文章除非无法确认，都会注明作者和来源，如有侵权请联系删除。

往期精彩文章（单击就可查看）：

. 办

. 》