网易首页 > 网易号 > 正文 申请入驻

OpenAI研究员:我们都不读论文了

0
分享至

前沿实验室的人几乎不读论文了?

OpenAI 的一位研究员一句话扫射三大顶会:太多夸大其词和造假!



事情的起因,是一篇效果好得让人想不通的 ICLR 论文,网友研究了一下才发现其中的「秘诀」。



在顶会发论文都「进化」成这样了吗?



一看代码是否开源,二看实验方法里有没有藏着什么「歪门邪道」,三才是跑出来的结果又能不能支撑核心结论—— 这一层层拷问下来,顶会论文究竟有几篇经得起检验?

还真有人这么干了。

105 篇中,只有 8 篇「合格」

今年 7 月,由芝加哥大学计算机科学与数据科学副教授谭宸浩联合创办的 SAI,公布了一次大规模「实验审稿」。

他们选中的,是 ICML 2026 全部 168 篇 Oral 论文。

今年 ICML 共收到 23918 篇投稿,最终只有 168 篇获得 Oral 资格,占比约 0.7%。

换句话说,SAI 检查的已经是两万多篇投稿中筛出的最顶层。

除了和传统审稿人一样阅读论文的方法、实验设计和结果,SAI Review 还会下载代码、模型和数据,配置环境并运行实验,最后把运行结果与论文原文逐项对照。

SAI 审查了全部 168 篇 Oral,其中只有 104 篇论文代码开源,最终完成了 105 篇完整复现。

其中,只有 34 篇复现了超过 40% 的主张;复现比例超过 80% 的,只剩 8 篇。



无论每篇论文至少包含 1 项、3 项还是 5 项可验证主张,复现得分中位数始终在 28%—30%,整体分布变化不大。



排除未运行、提前中止或超出硬件能力的实验后,复现得分中位数仍只有 42%—50%;当每篇论文至少包含 3 项可验证主张时,中位数稳定在 42%。

复现里最常见的问题都遇到了:代码无法运行、文件缺失、说明不完整、依赖损坏,或者代码跑出的结果和论文对不上。

还有 4 篇论文依赖已经下线的模型。后来的研究者即使愿意花钱、花时间,也不可能重新得到相同结果。

SAI 还列举了两个更具体的例子。

一篇论文把「只训练基础模型0.77%的参数」写成主要卖点,实际发布的检查点却训练了6.31%的参数,约为宣称数字的8 倍

另一篇论文展示了由裁判模型评分的可靠性表格,开源代码中却找不到这个裁判模型,也没有脚本能够算出表格里的数字。

劣质论文,收益高风险低

SAI 的复现结果可以说是相当糟糕。

更糟糕的是,这里发现的问题还只是「有条件被发现」的问题。

那些没有代码的论文,直接就「无懈可击」。



而即使代码完全公开,想要验证一篇论文,所花费的时间、精力和金钱都是巨额的,最后的结果还不如人意,不知道要多崩溃了。

按照 SAI 基于 Google Cloud 公开按需价格给出的估算,完整重跑一篇 ICML Oral 论文,成本中位数约为8900 美元。105 篇论文中,17 篇超过 10 万美元,最昂贵的一篇接近220 万美元

论文越依赖大规模算力,独立复现就越困难。

没有代码,别人无从检查;有了代码,也未必有人付得起这个成本。

于是,一篇存在问题的论文完全可能顺利通过评审、获得引用,再被写进简历,换来录取、教职或者大实验室的工作机会。

偶然有人发现结果对不上,会议也很少重新审查,论文也未必会被撤回。

这就是评论区所说的「做出糟糕的研究有收益,却几乎没有代价」。



不读论文,但是招聘要看论文

在大模型领域,确实有许多真正重要的进展不再以论文的形式出现。

作为 OpenAI 的工程师,站在产业前沿,有这种感受并不难理解。毕竟有更充足的算力、更快的实验反馈和大量不公开的内部结果,有「不读论文」的底气。

但这么说出来,多少有点微妙。

一条评论讽刺科技公司里的人这样是「上岸后抽走梯子」:从高校招走研究人员,建立在学术界公开积累的成果之上,用更高的价格抢走人才和 GPU,自己越来越少接受同行评审,最后却转过头宣布学术研究「主要是骗局」



稍显刻薄,但确实有道理。

这些前沿实验室的人可以「不读论文」,但是想进入的人还是要先发论文。

对于缺少产业经历的学生和年轻研究者来说,顶会论文依然是证明研究能力最直接的凭证。

申请博士、寻找教职、进入 OpenAI 这样的前沿实验室,都要依靠论文获得关注度。

产业界的人在进入大实验室之后轻视论文,却仍然用论文数量、会议级别和引用成绩筛选站在门外的人。

论文于是陷入一种尴尬的位置:它在知识传播上的可信度受到质疑,在人才竞争中的价值却丝毫没有消失。

所以,「大实验室已经不读论文了」听起来稍显清高和傲慢。因为真正有资格不读论文的人,往往已经凭借论文跨过了那道门槛。

当然,也不是所有学生都是精心设计骗局的学术反派。

一位高校研究者开玩笑说,他倒希望自己的学生已经有能力写出一篇夸大其词甚至造假的论文。



有的人在「争做学术骗子」,而有的人还挣扎在 LaTeX。

https://x.com/MathewShen42/status/2084465434506768867

https://x.com/kellerjordan0/status/2084721463089902074

https://sai.science/blog/how-much-science-is-verifiable

https://x.com/mengyer/status/2085134204786921886

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网红晒转账截图宣称捐款百万,广西红十字会:未收到个人单笔百万元捐款,根据姓名查到有1元捐款,平台回应:用户已禁言

网红晒转账截图宣称捐款百万,广西红十字会:未收到个人单笔百万元捐款,根据姓名查到有1元捐款,平台回应:用户已禁言

封面新闻
2026-09-07 22:59:35
这就是公开辱华的后果!取消冠军头衔只是开始,职业生涯也全毁了

这就是公开辱华的后果!取消冠军头衔只是开始,职业生涯也全毁了

阿凫爱吐槽
2025-12-17 17:24:39
面试官:6瓶水7个领导,怎么分?小伙的回答让面试官当场拍案录用

面试官:6瓶水7个领导,怎么分?小伙的回答让面试官当场拍案录用

红豆讲堂
2025-10-01 12:48:41
留学花光家里60多万,面试字节、阿里、鹅厂等被拒,不敢告诉爸妈找不到工作

留学花光家里60多万,面试字节、阿里、鹅厂等被拒,不敢告诉爸妈找不到工作

蚂蚁大喇叭
2026-09-05 17:11:29
“一个月陪睡一两次”:网红魏莹的榜一大哥照片曝光,他身价过亿,是个大企业家

“一个月陪睡一两次”:网红魏莹的榜一大哥照片曝光,他身价过亿,是个大企业家

江山挥笔
2026-08-25 16:40:36
比特币到 2030 年价格将达到 100 万美元……但他却在买入以太坊

比特币到 2030 年价格将达到 100 万美元……但他却在买入以太坊

新浪财经
2026-09-07 18:24:13
收取中国翻倍过路费后,蒙古马上对中俄提出新请求,真实意图曝光

收取中国翻倍过路费后,蒙古马上对中俄提出新请求,真实意图曝光

好贤观史记
2026-09-08 07:26:20
华为拿下玛莎拉蒂,全网破防了!

华为拿下玛莎拉蒂,全网破防了!

财经三分钟pro
2026-09-08 15:25:19
郑钦文逆转不到24小时,荒谬一幕上演,李娜当初果然没说错

郑钦文逆转不到24小时,荒谬一幕上演,李娜当初果然没说错

青梅侃史啊
2026-09-08 16:44:37
41岁北大才子黄恺副教授疑坠楼,新婚仅半月便天人永隔,死因成谜引全网痛心

41岁北大才子黄恺副教授疑坠楼,新婚仅半月便天人永隔,死因成谜引全网痛心

阿莱美食汇
2026-09-08 01:18:04
热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

蝴蝶花雨话教育
2026-08-18 09:57:05
数据显示,超15%的中青年夫妻处于“干婚”状态,68%的中年人拥有固定深交的异性网友

数据显示,超15%的中青年夫妻处于“干婚”状态,68%的中年人拥有固定深交的异性网友

舒山有鹿
2026-07-25 09:57:20
央视一频道《交锋》里演员周依然的过往经历与现状

央视一频道《交锋》里演员周依然的过往经历与现状

小椰的奶奶
2026-09-08 17:14:57
2000年,歹徒长途客车起色心,3名女子被强奸5次,43人冷眼旁观!

2000年,歹徒长途客车起色心,3名女子被强奸5次,43人冷眼旁观!

法网恢恢
2026-09-06 23:15:14
诸葛亮六出祁山为何失败?伟人一语道破:错在荆州用人

诸葛亮六出祁山为何失败?伟人一语道破:错在荆州用人

唠叨说历史
2026-03-11 13:52:00
景甜背后的金主之谜!时间回到15年前,王思聪早已道出事实

景甜背后的金主之谜!时间回到15年前,王思聪早已道出事实

文刀贰
2026-08-28 04:10:03
斯瓦泰克含泪离场,巴黎奥运也曾被郑钦文击败落泪

斯瓦泰克含泪离场,巴黎奥运也曾被郑钦文击败落泪

懂球帝
2026-09-08 02:33:24
省长和理想、比亚迪、长安、奇瑞捷豹路虎、悦达起亚、上汽大众等企业负责人恳谈

省长和理想、比亚迪、长安、奇瑞捷豹路虎、悦达起亚、上汽大众等企业负责人恳谈

政知新媒体
2026-09-07 22:37:39
马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

大白聊IT
2026-08-14 01:29:05
教师岗大势定了:如无意外,2026年中国教师行业或许只剩三条退路

教师岗大势定了:如无意外,2026年中国教师行业或许只剩三条退路

户外阿毽
2026-08-24 04:19:09
2026-09-08 17:56:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13946文章数 142729关注度
往期回顾 全部

科技要闻

小米再次背水一战

头条要闻

小区上百台空调突然集体"罢工" 维修人员上门一查愣了

头条要闻

小区上百台空调突然集体"罢工" 维修人员上门一查愣了

体育要闻

韩旭:我一定会再次走出去

娱乐要闻

郭德纲被处罚,郭麒麟被曝恋情瓜

财经要闻

全球黄金“回家”

汽车要闻

领克20 领克的纯电小钢炮这次更运动了

态度原创

手机
旅游
本地
房产
公开课

手机要闻

韩国iPhone转三星折叠手机用户中,Z8系列约为Z7系列2倍

旅游要闻

看北京|孤木成林!圆明园这棵古槐火了

本地新闻

宁波,中国制造的隐藏大佬

房产要闻

真快啊!海口这个超级城更,又有大动作!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版