网易首页 > 网易号 > 正文 申请入驻

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

0
分享至


新智元报道

编辑:桃子

【新智元导读】21世纪最具影响力的25篇论文中,AI论文竟然独占鳌头!从席卷全球的ResNet到奠定ChatGPT基础的Transformer架构,Nature独家揭秘全球高被引论文。

21世纪第一个25年,AI领域被引最高25篇论文都有哪些?

近日,Nature头版独家文章,揭秘了不同科学领域最具影响力的论文。


然而,令人意外的是,那些广为人知的科学发现:从mRNA疫苗和CRISPR基因编辑技术,到希格斯玻色子的发现和引力波的首次测量,并没有出现在这些入选的论文中。

他们得出结论,被引最高的论文,正是描述科学方法、软件工具或系统性综述的「幕后英雄」。

那么,都有哪些论文上榜了呢?


引用:科学影响力的衡量标准

引用是学术界衡量论文影响力的重要指标,作者通过引用来致敬前人的工作。

Nature的分析基于五个学术数据库(涵盖了21世纪数千万篇论文),通过取中位数排名,筛选出本世纪最受引用的25篇论文。

结果显示,人工智能、提升研究质量提升、癌症统计、研究软件相关的论文占据了榜单前列。

唯一例外是一篇2004年关于石墨烯实验的开创性论文,这项工作为作者赢得了2010年的诺贝尔物理学奖。

AI崛起,ResNet登顶

人工智能论文,在本世纪引用榜单中独领风骚。

位居榜首的是,微软团队2016年发表的一篇论文——Deep Residual Learning for Image Recognition。

这恰恰是所有人熟知的「深度残差学习」神经网络——ResNets的开山之作,由AI大牛孙剑带队何恺明等人完成。


论文地址:https://arxiv.org/abs/1512.03385

ResNets解决了信号在多层网络中传播时衰减的问题,让研究人员能够训练约150层神经网络。

这大约是当时常规神经网络层数的5倍。


该论文首次作为预印本发布于2015年末,微软团队凭借其在图像识别竞赛中夺冠。

ResNets的突破为AI飞速发展铺平了道路,催生了AlphaGo、AlphaFold、ChatGPT等模型诞生。

现就职于麻省理工学院的何恺明表示,「在ResNets之前,深度学习并不那么『深』」。

据统计,这篇论文的引用量在10万-25.4万次之间。在五个数据库中有两个将其列为第一,两个列为第二,一个列为第三,综合中位数排名第一。


Google Scholar这篇论文被引数已超25万

此外,2017年谷歌发表的Attention is all you need排位列七,论文中提出了著名的Transformer架构,成为ChatGPT等大模型的核心。


论文地址:https://arxiv.org/pdf/1706.03762

AI论文的高引用量,主要是因为其广泛的应用领域和快速的研究进展。

同样,AI教父Geoff Hinton指出,「AI论文天然具有引用优势」。

2012年,Hinton带领学生Ilya、Alex Krizhevsky发表的AlexNet论文排名第八。

这篇巨作展示了神经网络在图像识别竞赛中的压倒性优势,掀起了后来的深度学习革命。


论文地址:https://proceedings.neurips.cc/paper_files/paper/2012/file/c399862d3b9d6b76c8436e924a68c45b-Paper.pdf


此外,开源也助推了AI论文的引用。

比如排名第六的Random Forests论文介绍了一种开源、易用的机器学习算法,广泛应用于多个领域。


论文地址:https://link.springer.com/article/10.1023/A:1010933404324

需要说明的是,许多AI论文以预印本形式发布,增加了引用统计的复杂性。

OpenAlex数据库尝试合并预印本与最终出版物的引用,而Google Scholar则努力将同一作品的所有版本归类并汇总引用。

研究软件:科学家的「工具箱」

除了AI领域,研究软件相关论文在本世纪引用榜单中表现亮眼。

排名第二的论文由Thomas Schmittgen等人于2000年发表,介绍了一种用于定量PCR(聚合酶链式反应)数据分析的方法。

这篇论文应审稿人要求而生,因其提供了计算基因活性变化的简单公式,被引量超过16.2万次,跻身历史前十。


论文地址:https://www.sciencedirect.com/science/article/abs/pii/S1046202301912629

排名第五的论文,是由英国化学家George Sheldrick撰写,介绍SHELX程序套件,用于分析X射线散射模式以揭示分子结构。

这篇2008年的综述论文建议使用SHELX时引用,引用量在7万至9万次之间。


论文地址:https://journals.iucr.org/a/issues/2008/01/00/sc5010/index.html

其他软件论文,如排名第十五的scikit-learn(Python机器学习库)和排名第十八的DESeq2(RNA测序分析),因其开源和易用性,成为科学家不可或缺的工具。

统计软件:数据分析的利器

统计软件相关论文,也在榜单中名列前茅。

例如,排名第15的scikit-learn论文和排名第22的lme4论文分别为Python和R语言用户提供了强大的数据分析工具。

排名第23的G*Power软件论文则帮助生物学家计算实验所需的样本量,以确保统计显著性。

值得注意的是,R编程语言本身未出现在榜单中,尽管OpenAlex记录其引用量超过30万次。

这是因为R的开发者建议用户引用其网站而非学术论文,导致数据库记录不一致。

这也提醒研究者:若开发了有影响力的程序,发表一篇相关论文至关重要。

癌症与健康:数据驱动的洞见

癌症研究领域的三篇论文在榜单中占据重要位置。

排名第四的Diagnostic and Statistical Manual of Mental Disorders(DSM-5)是精神病学领域的权威指南,2013年出版后广泛用于研究和临床,定义了精神障碍的诊断标准。

排名第九和第十的是世界卫生组织GLOBOCAN项目于2018年和2020年发布的全球癌症统计报告,为研究者和政策制定者提供了关键数据。

排名第十九的综述论文总结了癌症的「标志性特征」,激励了无数学生投身癌症研究。

提升研究质量

提升研究质量的论文在本世纪引用榜单中熠熠生辉。排名第三的论文Using thematic analysis in psychology,由心理学家Virginia Braun和Victoria Hannah Clarke于2006年发表,介绍了「主题分析」——一种分析定性数据的系统方法。

这篇为学生设计的指南意外成为本世纪第三高引用论文,彻底改变了两位作者的职业轨迹。

排名第11的PRISMA声明(2009年)为系统综述和荟萃分析提供了27项报告规范,引用量在5.3万至13.8万次之间。

2020年更新的PRISMA(排名第23)同样上榜。排名第17的论文(2003年)讨论了行为研究中的方法偏差,帮助研究者提高研究严谨性。

参考资料:

https://www.nature.com/articles/d41586-025-01125-9

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这是一记响亮的耳光,更是一个危险的信号!

这是一记响亮的耳光,更是一个危险的信号!

胖胖说他不胖
2025-09-15 14:58:33
打脸了?2015年专家预测:一旦开放二胎,中国新生人口将会激增

打脸了?2015年专家预测:一旦开放二胎,中国新生人口将会激增

一针见娱
2025-09-14 21:44:59
俄罗斯议员:如果对华免签,将有大量中国男性涌入俄联邦找对象

俄罗斯议员:如果对华免签,将有大量中国男性涌入俄联邦找对象

头条爆料007
2025-09-16 05:46:15
莫言:女人接近男人,不过图这两样东西,那她也不缺一个祖宗供着

莫言:女人接近男人,不过图这两样东西,那她也不缺一个祖宗供着

诗词中国
2025-09-04 17:56:45
黄多多在纽约地铁被偶遇了,网友夸赞她很有气质,透着股清冷感

黄多多在纽约地铁被偶遇了,网友夸赞她很有气质,透着股清冷感

娱圈小愚
2025-09-16 08:59:12
重大转变:特朗普首次称普京为侵略者

重大转变:特朗普首次称普京为侵略者

微微热评
2025-09-15 21:43:30
霍华德:2020年夺冠非常艰难,我们只能和六个人一起庆祝

霍华德:2020年夺冠非常艰难,我们只能和六个人一起庆祝

雷速体育
2025-09-16 11:22:41
女子散步误踩氢氟酸后离世引热议!官方通报!事发原因正在调查!

女子散步误踩氢氟酸后离世引热议!官方通报!事发原因正在调查!

振华观史
2025-09-16 09:00:46
孩子升入初三才恍然大悟:限制小孩用不用电子设备,差距超乎想象

孩子升入初三才恍然大悟:限制小孩用不用电子设备,差距超乎想象

今天说故事
2025-09-15 18:20:00
俄无人机飞入罗马尼亚,特朗普向北约发出"最后通牒"

俄无人机飞入罗马尼亚,特朗普向北约发出"最后通牒"

山河路口
2025-09-14 17:40:24
后续!这就是西贝的真实水平,厨师不但会炒菜还会擦锅边灶台。

后续!这就是西贝的真实水平,厨师不但会炒菜还会擦锅边灶台。

花心电影
2025-09-16 11:03:21
一夜之间,成千上万的小餐饮老板,仿佛约好了一样,集体“醒”了

一夜之间,成千上万的小餐饮老板,仿佛约好了一样,集体“醒”了

阿伧说事
2025-09-15 15:25:30
超300万人抢 iPhone 17:是跟风还是刚需?看完这几点你就懂了

超300万人抢 iPhone 17:是跟风还是刚需?看完这几点你就懂了

大卫聊科技
2025-09-14 11:52:14
医生对你暗示过什么?网友:我两次做阴超都是遇到男医生

医生对你暗示过什么?网友:我两次做阴超都是遇到男医生

解读热点事件
2025-09-14 00:15:04
3亿汉人被300万八旗统治276年,为何不反抗?清朝只用了四招

3亿汉人被300万八旗统治276年,为何不反抗?清朝只用了四招

老达子
2025-09-14 06:50:03
中美谈判第四轮期间,中国甩出第二张王炸,特朗普这下真要破防了

中美谈判第四轮期间,中国甩出第二张王炸,特朗普这下真要破防了

南宫一二
2025-09-15 20:53:09
导演王全安当全剧组的面,掀开张雨绮衣服,一把拉下她肚兜红带子

导演王全安当全剧组的面,掀开张雨绮衣服,一把拉下她肚兜红带子

百态人间
2025-09-15 11:52:34
蛇为什么要进化成这么适合被吃?除了头和内脏,全身都是肌肉

蛇为什么要进化成这么适合被吃?除了头和内脏,全身都是肌肉

怪罗
2025-09-15 23:54:21
江苏一县政协副主席,任上被查

江苏一县政协副主席,任上被查

扬子晚报
2025-09-15 17:19:44
十分魔幻:当代美国的“极左”和“极右”,连希特勒看了都懵圈

十分魔幻:当代美国的“极左”和“极右”,连希特勒看了都懵圈

黄娜老师
2025-09-14 23:09:45
2025-09-16 14:08:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
13456文章数 66154关注度
往期回顾 全部

科技要闻

理想i6定档9月26日发布,定位纯电五座SUV

头条要闻

欧盟交易员绝望:现在中国能卖10公斤锗都谢天谢地了

头条要闻

欧盟交易员绝望:现在中国能卖10公斤锗都谢天谢地了

体育要闻

乌姆蒂蒂,为世界杯冠军赔上职业生涯

娱乐要闻

宋祖英事业巅峰隐退?李谷一道破原因

财经要闻

华与华秒怂 罗永浩称已接到对方道歉

汽车要闻

优质智能体验/1.5T增程 别克至境L7正式亮相

态度原创

家居
亲子
艺术
手机
公开课

家居要闻

江南秘境 理想生活模样

亲子要闻

萌娃教妈妈如何正确夸她,哎呦~谁家的大美女这么美呀?

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

手机要闻

苹果推送iOS 26系统首个正式版本,新功能汇总及更新建议!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版