追问“幽灵文献”，对话《柳叶刀》副主编：AI伪造引用文献，正给学术出版带来新挑战

每经记者：林姿辰 每经编辑：陈旭

在学术领域，AI（人工智能）的形象更像是个“不速之客”。

今年5月，全球顶级医学期刊《柳叶刀》刊发了一篇通讯文章（correspondence），对 250万篇生物医学论文开展审查，发现含伪造引用论文的检出率在近几年增长超过12倍。这一现象也在中国的医学科研圈引发广泛讨论。

继6月16日独家专访该通讯文章的作者马克西姆·托帕兹（Maxim Topaz）后，近日，《每日经济新闻》记者收到了来自《柳叶刀》副主编萨宾·克莱内特（Sabine Kleinert）的回复。

1998年以来，克莱内特在《柳叶刀》任职已近30年，目前担任《柳叶刀》系列期刊科研诚信与风险管理负责人。面对生成式AI在科研中的快速普及，她强调，学术出版界正面临新的科研诚信挑战。

“现有工具尚无法始终可靠地识别高度仿真的人工智能生成引用。”克莱内特表示，学术出版界有必要共同改进相关检测方法，并就发现此类问题后的处理原则达成一致。

若出现不适当“幻觉式引用”将会拒稿

AI给传统论文撰写带来的冲击并不是新问题。

几年前，ChatGPT上线后，学界很早就发现大模型会凭空生成不存在的参考文献，《自然（Nature）》《科学（Science）》等全球知名期刊均曾发文，提醒AI应用于学术出版领域的风险。

与已有的文章不同，《柳叶刀》于今年5月刊发的通讯文章《Fabricated citations：an audit across2.5 million biomedical papers》通过系统性大规模审查，首次用百万级的生物医学文献，量化了虚假引文这一问题。

据克莱内特介绍，《柳叶刀》收到的所有投稿都会由编辑团队进行审阅，重点关注其科学质量及相关性。

维护科学记录的完整性是《柳叶刀》系列期刊的核心责任之一，其中包括识别和审视可能影响已发表证据质量的问题。

让包括克莱内特在内的《柳叶刀》编辑印象深刻的是，这篇通讯文章聚焦当前科学界（包括学术期刊）面临的重要挑战——新技术的发展以及生成式人工智能工具在科研中的日益广泛应用所带来的影响，比如学术不端行为、论文工厂，以及利用生成式AI工具生成看似真实但实际上并不存在的引用文献等问题。

“伪造引用是可能影响临床指南或生物医学研究准确性和可靠性的多种科研诚信风险之一。”克莱内特表示，从编辑的角度来看，这些问题反映出科研与出版体系在信息生成、核查和报告过程中面临的更广泛挑战。对于作者使用生成式人工智能工具，《柳叶刀》系列期刊的政策特别强调透明、合理、负责任使用此类工具的重要性，并要求作者始终应对其报告内容的准确性承担最终责任，包括参考文献的准确性。

“当我们发现稿件中存在不适当的‘幻觉式引用’，或其他不当使用生成式AI且未予以声明时，即使我们开始接收了这篇论文，最后也会拒稿。我们会告知作者，这样的做法并不恰当。如果这种情况较为普遍，我们还可能与作者所在的机构沟通，建议加强关于生成式AI合理使用的教育。”克莱内特表示。

呼吁学界抱团应对高仿AI生成引用

据克莱内特介绍，《柳叶刀》系列期刊对稿件的审阅包括编辑评审和外部同行评议，并在整个出版流程乃至论文发表后持续进行审查。《柳叶刀》的编辑系统会在不同阶段使用相关工具辅助核查。

具体来说，在投稿初审阶段，自动化筛查能够识别潜在问题，例如重复内容，或无法在现有数据库中得到验证的参考文献；在后续编辑评审过程中，还会进行额外检查，以识别需要进一步关注的内容。

自动化检测工具已经在出版流程的不同阶段用于辅助筛查，包括参考文献的初步核验，以及编辑过程中的参考文献交叉核查。但是，随着新一代生成式人工智能技术的发展，生成高度可信但实际并不准确的内容变得更加容易。现有工具主要用于辅助核查，但无法始终可靠地识别高度仿真的人工智能生成引用。

克莱内特认为，这进一步凸显了编辑审查和严格同行评议在维护科学记录完整性方面的重要作用。这也意味着，编辑团队会对稿件进行详细审阅，一旦发现疑点，相关参考文献将被进一步核查，以确认其是否真实存在并可被验证。

这是整个学术出版行业共同面临的挑战。作为国际医学期刊编辑委员会（ICMJE）和出版伦理委员会（COPE）的成员之一，《柳叶刀》认为，学术出版界有必要共同改进相关检测方法，并就发现此类问题后的处理原则达成一致。

对于学术出版界如何形成统一标准，克莱内特表示，《柳叶刀》系列期刊长期致力于推动科研诚信建设。

“通过与期刊、出版机构以及更广泛科研群体的合作，我们认为持续关注生成式人工智能工具和新技术对科研实践及学术报告标准的影响至关重要。同时，也要确保相关指导原则能够及时回应当今科研环境所面临的实际挑战。”