警惕AI幻觉 捍卫新闻真实 推动相关领域立法！浦江宣言发布

21世纪经济报道记者 王俊 上海报道

最近，一篇《AI判定我持有假记者证》的文章在媒体圈刷屏了。一位拥有国家新闻出版署核发记者证的记者，将证件发给采访对象后，对方回复了一大段条理分明的文字，并判定记者证是伪造的。而这一长串论证依据，来自AI判断。

AI言之凿凿地给出了看似有理有据的答案，这种笃定，正被许多用户奉为圭臬。

于是，衍生出一系列啼笑皆非的故事。有人轻信AI的机票退改建议，白白损失600元；有人拿着AI给出的虚假承诺去索赔；即便在专业领域，也出现了律师拿着AI生成的判例上法庭的情形……

随着AI普及率急速升高，AI幻觉等技术内在缺陷导致的内容偏差，也逐渐引发现实生活的利益冲突。背后既存在归责困境——基础模型厂商、开发者平台、服务提供方、用户，谁来担责？也暴露出使用者批判性素养与伦理素养的短板。

AI的真实、安全、可信并非单一厂商的“售后问题”，也不是用户个体能独自背负的责任，而是具有高度外部性的“公共产品”。

面对AI幻觉带来的不确定性，没有任何一个环节可以独善其身，既需要技术的迭代，更需要司法边界的厘清、行业标准的共建以及全社会数字素养的重构。

2026世界人工智能大会暨人工智能全球治理高级别会议上，解放日报社、复旦大学新闻学院、腾讯公司共同发出浦江宣言，强调人工智能时代的传播，应当持续提供可信赖、有依据、能检验的事实和观点，应当切实促进沟通、增进互信，坚定传承核心价值，努力创造一个以“真、善、美、安、惠”为遵循的、可信赖的智能新世界。

推动建立AI生成内容真实性核查机制

真实是新闻的生命，真实是信任的基石。

早在2025年，21世纪经济报道商业秩序工作室曾测试了6款国产AI，向AI提问了330次，发现AI的平均准确率只有25%。我们还选择了5个近一年发生的重要社会新闻事件，继续向AI提问，大部分AI回复真假参半，占比76%；所有AI都有错误总结的情况——要么错误概括了信源意思，要么引用了本就有误的信源；并且，AI喜欢引用篇幅长、面面俱到、结构清晰的“伪百科”内容。 （详情见：《让AI查了330次新闻：平均准确率25%，近一半链接打不开丨AI幻觉捕手》）

时隔一年，2026年4月，我们又重新做了一次测评，发现AI幻觉的情况得到了极大的改善，没有出现「完全错误」的情况。但这不意味着AI已经克服了幻觉这一内在缺陷，仍有「部分错误」的回答中，「错误总结」依然占比很高，达30.56%。动态发展中的新闻，AI难以引用到最新的权威数据；时间久远的事件，AI只能引用自媒体，考证难度加大。并且，广告污染严重，GEO投毒比想象中更泛滥。（详情见：

求证了1028遍AI回复：泛滥的GEO，割了多少韭菜？）

此前，新闻和内容生产有一条可追溯的链条：谁写的，引用自哪，经由什么审核。而AI切断了这条链条，本质上它只“预测下一个token”。因此，一旦缺乏正确、丰沛的源头，输出的内容便不够可控。源头的偏差，传导到用户，挑战的是用户信息素养。一项由上海交通大学主导的跨学科调研显示：我国近七成受访公众对大模型AI幻觉“低感知”，高感知者的比例不足一成。

生物学家爱德华·威尔逊曾调侃：“我们拥有旧石器时代的情感、中世纪的制度，以及神明般的技术。”技术让人类获得了前所未有的力量，但往往人类尚未获得与之匹配的智慧与道德成熟度。这种落差，正是当代所有危机的根源。

消弭这一鸿沟，责任不应该简单地压在用户个体身上，需要行业、媒体、监管部门共同行动。

此次发布的浦江宣言提到，任何技术环境下，真实性都应成为主流传播不可动摇的至高原则。要高度警惕“算法黑箱”和“AI幻觉”，反对一切借助AI工具进行的虚假传播、情绪煽动。

在具体落地层面，相关机构称，将持续为大模型注入来自主流媒体和权威机构的海量真实语料，推动建立AI生成内容真实性核查机制，探索共建跨平台真实性数据库。

业内共同呼吁对人工智能生成内容进行清晰、显著标识，建立信息溯源与验证体系，防止错误信息扰乱传播秩序、误导公众视听。

杜绝单一审美，坚决抵制低质量同质化内容

AI生产并不仅仅冲击内容真实，还冲击着内容表达。

从技术角度来看，大模型基于已有数据训练，可能倾向于“平均化”；再叠加强大的工具能力，大量同质化、低质化内容充斥目前的内容生态。

过去需要专业训练、耗费数小时才能完成的文案撰写、配图生成、视频制作，如今几分钟就能落地。创作门槛大幅降低，帮助不少创作者突破瓶颈的同时，也打开了低质量产出的闸门。从去年开始，AI生成内容在数量上已远超人类创作，开始占据主导地位。就像一滴墨汁滴入清水，AI编造的内容正在悄然影响每个人获取信息的方式以及审美水平。

“数字泔水”泛滥之下，治理不再是“选修课”。人工智能可以轻易实现内容“量产”，但不应替代人类独有的原创、情感、审美与趣味，不应消解人类审美的丰富性与多元性。

此次浦江宣言提到，将协同优化基础算法，支持高品质、高价值、多元化审美表达，杜绝单一审美，坚决抵制低俗、庸俗、媚俗和低质量同质化内容。

“我们将共同探索借助AI技术传承弘扬中华优秀传统文化、促进不同文明交流互鉴，推动构建和合共生的文明秩序，让智能世界和而不同、美美与共。”浦江宣言称。