AI入侵学术圈，超700篇顶刊论文暴雷！科学侦探揭秘真相，登Nature头版

新智元报道

编辑：桃子

【新智元导读】ChatGPT潜入学术圈，已有超700篇论文偷用AI不报备。甚至，一些顶刊主动删除了100多篇论中的AI语。今天，最新Nature文章揭秘了学术论文背后的乱象。

「截至我最后的知识更新」，「重新生成响应」，「作为一个AI语言模型」......

这些短句，已经成为顶刊论文中的常态。

2024年，一篇发表在Radiology Case Reports上论文，因文中出现了「我是一个AI语言模型」，直接被撤稿。

令人震惊的是，这句话不仅没有引起作者注意，更逃过了编辑、审稿人、排版人的审查。

Nature最新头版文章中，直接戳破了当前顶刊现状——学术文献中大量使用AI撰稿。

路易斯维尔大学Alex Glynn创建了一个在线追踪器「Academ-AI」，已经记录了超700篇带有AI使用痕迹的论文。

其中，一些AI生成的内容较为隐晦，比如「当然，这里是」，典型机器味儿的句子。

Glynn的分析还显示，前500篇被标记论文中，其中13%刊登在Elsevier、Springer Nature和MDPI大型出版商的期刊上。

论文地址：https://arxiv.org/pdf/2411.15218

顶刊破案现场，AI「嘴脸」藏不住了

近年来，ChatGPT生成式AI席卷学术界，深刻改变了论文写作与出版的生态。

研究人员们越来越依赖这些工具来起草、润色，甚至审稿，但与此同时，一个令人担忧的现象浮出水面：许多论文在未披露的情况下使用了AI。

甚至，在被发现后，他们又悄无声息地「修正」，这对科学诚信构成了潜在危险。

下面这篇在爱思唯尔发表了一篇锂电池论文中，第一部分介绍一张口就是老ChatGPT了。

同样的案例，不胜枚举。

再比如，这篇讲肝损伤的论文，在总结部分一句话亮了——

「总之，非常抱歉，由于我是人工智能语言模型，我无法获得实时信息或患者的具体数据……」

另一篇名为「Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway」 论文中的一幅AI插图引全网热议。

除了Alex Glynn的发现，来自波兰卡托维兹经济大学的研究员Artur Strzelecki也在知名期刊中发现了类似的问题。

他在Scopus学术数据库中，筛选出64篇发表在顶刊上的论文，这些期刊理应有严格的编辑和审稿流程，却依然未披露AI使用的痕迹。

Nature团队联系几家被标记过的顶刊，比如Springer Nature、Taylor&Francis、IEEE，他们提到了内部AI政策——

在某些情况下，这些政策不要求作者披露AI使用，或只要求在特定情况下披露。

比如，Springer表示，「辅助文稿编辑的AI不需要被标记，这包括出于可读性、风格以及语法或拼写错误而所做的修改」。

即便是在审查人员当中，许多人使用AI帮助准备手稿的接受度也在上升。

Glynn表示，「如果使用AI改善语言，随着这些工具的普及，简单披露以某种方式使用了AI将变得基本上毫无意义」。

因此，论文中，作者应该明确说明，自己具体如何使用 AI，能够帮助编辑和读者判断他们需要在哪些地方施加更多的审查。

论文顶刊悄悄删掉「罪证」

有的人或许会说，删除明显的短语不一定需要发布更正，只需提到这一更改的注释就足够了。

然而，若不标记这些更改，谁能确保论文本身没有其他的问题？

比如，去年发表在PLoS ONE一篇论文（现已被撤回），专家发现了「重新生成响应」短语，甚至还发现了其他问题，包括该论文的许多参考文献无法核实。

更令人担忧的是，一些论文在被发现有AI痕迹后，出版商选择悄悄移除这些标志性短语，却不发布任何说明或勘误。

这种做法被称为「隐秘更正」。Strzelecki发现了1例，Glynn则发现了5例。

举个栗子，2023年发表在爱思唯尔期刊Toxicology上一篇论文，「重新生成响应」被无声删除。

这个顶刊的AI政策规定，作者应在稿件中披露使用生成式AI和AI辅助技术。

爱思唯尔发言人在声明中表示，「我们调查涉嫌未披露生成式 AI 工具使用的已提交和已发表论文，必要时纠正记录」

不仅如此，Glynn和图卢兹大学的计算机科学家Guillaume Cabanac等人发现，在一篇发表于2月的论文中，有超100+篇存在类似的无声更改，其中部分与未披露的AI使用有关。

最严重的秘密修改顶刊有BAKIS Productions LTD、MDPI、爱思唯尔，都超20多次。

修改的类型中，内容变更高达92次。

Cabanac表示，出版商需要迅速采取行动，筛选现有论文并建立更严格审查机制。

不过，他也指出，这类问题仅占发表研究极小部分，所有人不应动摇对科学的信任。

参考资料：

https://www.nature.com/articles/d41586-025-01180-2#ref-CR2