网易首页 > 网易号 > 正文 申请入驻

写论文“误信”AI,相关责任人受处罚

0
分享至


近日,安徽某高校通报了一起引发学界关注的学术不端事件:一篇论文注释中判决书序号被质疑编造,校方调查后认定,作者“误信”了AI的检索结果,属于AI使用不当行为,相关责任人受到相应处罚。

实验结束,进入成文阶段。这是AI介入最普遍、争议最集中的环节。某高校化学方向博士生向光明日报记者坦言,课题组使用AI的频率“近乎100%”,从选题、初稿到润色都已渗入。

“100%”的高频使用也放大了两个问题:代笔界限模糊,虚假参考文献泛滥。

中国环境科学研究院研究员阳平坚就发现,一些学生有了AI后自己不再认真读英文文献,“这对学生科研能力伤害非常大”。他现在要求学生文献必须自己读,读完后可以用AI翻译和总结。

阳平坚举了一个例子:AI在一次内容梳理中输出“中国的碳市场即将启动”,课题组成员没有发现问题。“中国碳市场2021年就已经启动了。AI调取的资料库版本比较旧,没有收录最新的数据。”在他看来,如果研究者对自己领域的常识和前沿缺乏专业敏感,AI输出的错误就会悄无声息地进入正式文本。

前不久,学术预印本平台arXiv发布了一项对250万篇论文、1.11亿条参考文献的系统性审核,结果显示:仅2025年,arXiv、bioRxiv、SSRN和PubMed Central四大平台中就存在近15万条由AI编造的虚假参考文献。

专家分析,其根源在于生成式AI的运作方式——它倾向于生成“看起来像文献”的内容,而非检索真实存在的数据。

学术期刊审稿人伍群芳以自身领域为例佐证了阳平坚的观点:“电力电子学科高度依赖IEEE、IET等专业数据库,但这些数据库‘有权限、要版权’,很多内容没有接入通用大模型。好的东西AI够不着,所以生成的内容也流于大众,没有真正创新可言。”

这也提示,解决AI虚假输出的关键或许不在模型本身,而在数据源的可控性——如果科研人员能够将经过审核的专业文献和自有数据“喂”给AI,而非任由它从开放网络随意抓取,虚假引文的风险将大为降低。

原文标题:《AI当“科研搭子”,你真的放心吗?》。

- END -

来源:《光明日报》,转载自麦可思研究,有删节

声明:本文版权归原作者及原出处所有,内容为作者观点,并不代表本公众号赞同其观点和对其真实性负责。如涉及版权等问题,请及时与我们联系,我们将立即更正或删除相关内容。本公众号拥有对此声明的最终解释权。

感谢您支持“高教志”

高教志 ID:cncollege

关注高等教育发展 / 关心大学教师成长 / 关怀大学生成才

大学,有大学问

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
福建省代省长郭宁宁主持召开全省食品安全暨“校园餐”整治专题会议:要保持高压严打态势,坚持执法必严、违法必究,重拳惩治违法违规行为

福建省代省长郭宁宁主持召开全省食品安全暨“校园餐”整治专题会议:要保持高压严打态势,坚持执法必严、违法必究,重拳惩治违法违规行为

新京报政事儿
2026-11-18 10:12:02
肃反运动中,被张国焘杀害的6位红军名将

肃反运动中,被张国焘杀害的6位红军名将

祁州校尉
2026-11-18 09:00:39
山东男篮逆转广东,陈林坚冷血三分制胜,替补席涌现小奇兵

山东男篮逆转广东,陈林坚冷血三分制胜,替补席涌现小奇兵

臻体育
2026-11-18 22:04:57
王兴兴穿旧白鞋参加APEC,网友;这鞋没换过,还好没穿牛仔裤!

王兴兴穿旧白鞋参加APEC,网友;这鞋没换过,还好没穿牛仔裤!

玖宇维
2026-11-18 20:38:19
高三男孩喀纳斯湖失踪,母亲守岸7天后直言放弃,意外竟在此时发生

高三男孩喀纳斯湖失踪,母亲守岸7天后直言放弃,意外竟在此时发生

古怪奇谈录
2025-10-16 10:53:42
资本市场辟谣平台:国常会“不再频繁救市”表态系谣言

资本市场辟谣平台:国常会“不再频繁救市”表态系谣言

界面新闻
2026-11-18 13:44:43
干得漂亮!央视切断开拓者比赛信号,开拓者外网官推被冲,球迷要求解雇诺里,杨瀚森有人为你出头了

干得漂亮!央视切断开拓者比赛信号,开拓者外网官推被冲,球迷要求解雇诺里,杨瀚森有人为你出头了

詹妹侃体育
2026-11-18 17:40:55
普京飞往深圳前,俄战机“闯入”日本领空,一路南下飞到台湾东侧

普京飞往深圳前,俄战机“闯入”日本领空,一路南下飞到台湾东侧

国际法大视野
2026-11-17 21:22:05
极限大逆转!CBA杯赛山东69-65广东,11冠王换帅还是输

极限大逆转!CBA杯赛山东69-65广东,11冠王换帅还是输

极度说球
2026-11-18 22:25:29
减仓幅度已创下二十年来最大

减仓幅度已创下二十年来最大

边际财经实验室
2026-11-18 19:56:02
当年为什么查办褚时健?

当年为什么查办褚时健?

百晓生谈历史
2025-08-20 21:55:53
又一癌症疫苗迎来重大突破,股价暴涨

又一癌症疫苗迎来重大突破,股价暴涨

东方豪侠
2026-11-18 08:50:06
中国政法大学教授刘纪鹏:A股36年涨3600点,问题出在哪?

中国政法大学教授刘纪鹏:A股36年涨3600点,问题出在哪?

江启
2026-11-18 12:45:18
大瓜,黄仁勋黄乐最新视频流出

大瓜,黄仁勋黄乐最新视频流出

小鱼爱鱼乐
2026-11-18 20:27:43
女子梦到和男同事发生关系,醒来腰酸背痛,报警称被侵犯,查无实据后男同事反诉,法院判她道歉赔500

女子梦到和男同事发生关系,醒来腰酸背痛,报警称被侵犯,查无实据后男同事反诉,法院判她道歉赔500

一丝不苟的法律人
2026-11-16 11:01:14
高市,如愿以偿?

高市,如愿以偿?

戎评
2026-11-18 13:57:26
33岁男子有15年烟龄,下决心戒烟,每天把30元烟钱贴墙上,戒烟215天存下6000多元后给妻子买了10999元的手机

33岁男子有15年烟龄,下决心戒烟,每天把30元烟钱贴墙上,戒烟215天存下6000多元后给妻子买了10999元的手机

蓬勃新闻
2026-11-18 06:43:27
祝贺!中国成功连任

祝贺!中国成功连任

政知新媒体
2026-11-17 07:11:29
两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

蝴蝶花雨话教育
2026-10-29 00:05:14
国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

爆角追踪
2026-11-18 11:01:03
2026-11-18 22:52:49
大学教育 incentive-icons
大学教育
传播动态、普及理念、服务教改
5343文章数 22113关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

追上特朗普专机 马斯克又来了

头条要闻

追上特朗普专机 马斯克又来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
亲子
时尚
数码
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

当婴配市场进入存量博弈,有机赛道如何破局突围?

裤子+靴子,冬天最经典搭配,松弛又时髦

数码要闻

34999元起,华硕RTX Spark迷你主机ProArt GR1X发售

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版