网易首页 > 网易号 > 正文 申请入驻

AI入侵学术圈,超700篇顶刊论文暴雷!科学侦探揭秘真相,登Nature头版

0
分享至

新智元报道

编辑:桃子

【新智元导读】ChatGPT潜入学术圈,已有超700篇论文偷用AI不报备。甚至,一些顶刊主动删除了100多篇论中的AI语。今天,最新Nature文章揭秘了学术论文背后的乱象。

「截至我最后的知识更新」,「重新生成响应」,「作为一个AI语言模型」......

这些短句,已经成为顶刊论文中的常态。

2024年,一篇发表在Radiology Case Reports上论文,因文中出现了「我是一个AI语言模型」,直接被撤稿。

令人震惊的是,这句话不仅没有引起作者注意,更逃过了编辑、审稿人、排版人的审查。

Nature最新头版文章中,直接戳破了当前顶刊现状——学术文献中大量使用AI撰稿。

路易斯维尔大学Alex Glynn创建了一个在线追踪器「Academ-AI」,已经记录了超700篇带有AI使用痕迹的论文。

其中,一些AI生成的内容较为隐晦,比如「当然,这里是」,典型机器味儿的句子。

Glynn的分析还显示,前500篇被标记论文中,其中13%刊登在Elsevier、Springer Nature和MDPI大型出版商的期刊上。

论文地址:https://arxiv.org/pdf/2411.15218

顶刊破案现场,AI「嘴脸」藏不住了

近年来,ChatGPT生成式AI席卷学术界,深刻改变了论文写作与出版的生态。

研究人员们越来越依赖这些工具来起草、润色,甚至审稿,但与此同时,一个令人担忧的现象浮出水面:许多论文在未披露的情况下使用了AI。

甚至,在被发现后,他们又悄无声息地「修正」,这对科学诚信构成了潜在危险。

下面这篇在爱思唯尔发表了一篇锂电池论文中,第一部分介绍一张口就是老ChatGPT了。

同样的案例,不胜枚举。

再比如,这篇讲肝损伤的论文,在总结部分一句话亮了——

「总之,非常抱歉,由于我是人工智能语言模型,我无法获得实时信息或患者的具体数据……」

另一篇名为「Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway」 论文中的一幅AI插图引全网热议。

除了Alex Glynn的发现,来自波兰卡托维兹经济大学的研究员Artur Strzelecki也在知名期刊中发现了类似的问题。

他在Scopus学术数据库中,筛选出64篇发表在顶刊上的论文,这些期刊理应有严格的编辑和审稿流程,却依然未披露AI使用的痕迹。

Nature团队联系几家被标记过的顶刊,比如Springer Nature、Taylor&Francis、IEEE,他们提到了内部AI政策——

在某些情况下,这些政策不要求作者披露AI使用,或只要求在特定情况下披露。

比如,Springer表示,「辅助文稿编辑的AI不需要被标记,这包括出于可读性、风格以及语法或拼写错误而所做的修改」。

即便是在审查人员当中,许多人使用AI帮助准备手稿的接受度也在上升。

Glynn表示,「如果使用AI改善语言,随着这些工具的普及,简单披露以某种方式使用了AI将变得基本上毫无意义」。

因此,论文中,作者应该明确说明,自己具体如何使用 AI,能够帮助编辑和读者判断他们需要在哪些地方施加更多的审查。

论文顶刊悄悄删掉「罪证」

有的人或许会说,删除明显的短语不一定需要发布更正,只需提到这一更改的注释就足够了。

然而,若不标记这些更改,谁能确保论文本身没有其他的问题?

比如,去年发表在PLoS ONE一篇论文(现已被撤回),专家发现了「重新生成响应」短语,甚至还发现了其他问题,包括该论文的许多参考文献无法核实。

更令人担忧的是,一些论文在被发现有AI痕迹后,出版商选择悄悄移除这些标志性短语,却不发布任何说明或勘误。

这种做法被称为「隐秘更正」。Strzelecki发现了1例,Glynn则发现了5例。

举个栗子,2023年发表在爱思唯尔期刊Toxicology上一篇论文,「重新生成响应」被无声删除。

这个顶刊的AI政策规定,作者应在稿件中披露使用生成式AI和AI辅助技术。

爱思唯尔发言人在声明中表示,「我们调查涉嫌未披露生成式 AI 工具使用的已提交和已发表论文,必要时纠正记录」

不仅如此,Glynn和图卢兹大学的计算机科学家Guillaume Cabanac等人发现,在一篇发表于2月的论文中,有超100+篇存在类似的无声更改,其中部分与未披露的AI使用有关。

最严重的秘密修改顶刊有BAKIS Productions LTD、MDPI、爱思唯尔,都超20多次。

修改的类型中,内容变更高达92次。

Cabanac表示,出版商需要迅速采取行动,筛选现有论文并建立更严格审查机制。

不过,他也指出,这类问题仅占发表研究极小部分,所有人不应动摇对科学的信任。

参考资料:

https://www.nature.com/articles/d41586-025-01180-2#ref-CR2

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一战封神的“海康三剑客”,要IPO了

一战封神的“海康三剑客”,要IPO了

投资家
2026-11-18 22:03:48
俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

国际法大视野
2026-11-17 15:18:04
WTT香港总决赛名单刚公布,难堪一幕发生,樊振东当初的话没说错

WTT香港总决赛名单刚公布,难堪一幕发生,樊振东当初的话没说错

小小小白看世界
2026-11-18 20:45:27
为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

带你感受人间冷暖
2026-11-16 10:34:09
有没有肠息肉,吃饭知道?医生:肠道有息肉的人,吃饭常有5异常

有没有肠息肉,吃饭知道?医生:肠道有息肉的人,吃饭常有5异常

芹姐说生活
2026-07-07 23:44:51
在重庆人眼中,华西医学院是什么地位?

在重庆人眼中,华西医学院是什么地位?

健身狂人
2026-11-16 15:46:12
大家今年都“穷”到什么程度了?网友评论区堪比大型“比惨”现场

大家今年都“穷”到什么程度了?网友评论区堪比大型“比惨”现场

夜深爱杂谈
2026-10-20 20:22:43
实锤了!香港“钻石王老五”古天乐秘婚!

实锤了!香港“钻石王老五”古天乐秘婚!

港港地
2026-11-17 10:06:37
都说航母是名副其实的吞金兽,到底夸张到什么地步?拿山东舰的日常伙食举例:每天光猪肉就得备上约 24 头,三千多名官兵一天要开 7 顿饭

都说航母是名副其实的吞金兽,到底夸张到什么地步?拿山东舰的日常伙食举例:每天光猪肉就得备上约 24 头,三千多名官兵一天要开 7 顿饭

扶苏聊历史
2026-11-04 11:02:53
日本政府做梦都没想到!俄方这轮不争岛了,直接询问日本认不认账

日本政府做梦都没想到!俄方这轮不争岛了,直接询问日本认不认账

顾史
2026-08-26 08:35:45
前R星开发者:特雷弗牛仔裤上的血迹,我打赌没人发现

前R星开发者:特雷弗牛仔裤上的血迹,我打赌没人发现

晚星归航2
2026-11-17 23:24:17
上层作孽,害死好人

上层作孽,害死好人

我是历史其实挺有趣
2025-08-02 08:59:00
自取其辱!高市早苗摇头晃脑,抛媚眼后丑态百出,马科斯无动于衷

自取其辱!高市早苗摇头晃脑,抛媚眼后丑态百出,马科斯无动于衷

花颜蕴韵
2026-11-18 19:56:56
苹果自家App Store终于适配iPhone Duo,铰链屏裂事件又有新进展

苹果自家App Store终于适配iPhone Duo,铰链屏裂事件又有新进展

科技兽
2026-11-18 22:34:05
全民拒接陌生电话,运营商、快递员、疾控中心为此付了多少成本?

全民拒接陌生电话,运营商、快递员、疾控中心为此付了多少成本?

小鹿姐姐情感说
2026-11-18 03:24:23
这是男子品尝水果前的最后一个微笑,几秒后便痛不欲生

这是男子品尝水果前的最后一个微笑,几秒后便痛不欲生

万物杂志
2026-11-17 07:08:13
时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

古书奇谈
2026-11-17 10:23:42
又一国宣布:加息!金价,重挫!

又一国宣布:加息!金价,重挫!

证券时报
2026-11-18 17:28:04
美军证实第三艘航母已抵达中东,伊朗:若美国不接受伊条件霍尔木兹海峡将继续关闭,即便接受条件,外国军队在波斯湾的存在也必须终结

美军证实第三艘航母已抵达中东,伊朗:若美国不接受伊条件霍尔木兹海峡将继续关闭,即便接受条件,外国军队在波斯湾的存在也必须终结

每日经济新闻
2026-11-17 21:10:14
中国已经成为全球第一个集体拒接电话的国家

中国已经成为全球第一个集体拒接电话的国家

黯泉
2026-06-26 10:44:35
2026-11-19 01:16:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16711文章数 67239关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
亲子
游戏
手机
公开课

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

亲子要闻

宝宝气人但是聪明的4个行为

PC Gamer试玩GTA6百小时:双主角出色但任务重复

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版