网易首页 > 网易号 > 正文 申请入驻

OpenAI研究员:我们都不读论文了

0
分享至

前沿实验室的人几乎不读论文了?

OpenAI 的一位研究员一句话扫射三大顶会:太多夸大其词和造假!



事情的起因,是一篇效果好得让人想不通的 ICLR 论文,网友研究了一下才发现其中的「秘诀」。



在顶会发论文都「进化」成这样了吗?



一看代码是否开源,二看实验方法里有没有藏着什么「歪门邪道」,三才是跑出来的结果又能不能支撑核心结论—— 这一层层拷问下来,顶会论文究竟有几篇经得起检验?

还真有人这么干了。

105 篇中,只有 8 篇「合格」

今年 7 月,由芝加哥大学计算机科学与数据科学副教授谭宸浩联合创办的 SAI,公布了一次大规模「实验审稿」。

他们选中的,是 ICML 2026 全部 168 篇 Oral 论文。

今年 ICML 共收到 23918 篇投稿,最终只有 168 篇获得 Oral 资格,占比约 0.7%。

换句话说,SAI 检查的已经是两万多篇投稿中筛出的最顶层。

除了和传统审稿人一样阅读论文的方法、实验设计和结果,SAI Review 还会下载代码、模型和数据,配置环境并运行实验,最后把运行结果与论文原文逐项对照。

SAI 审查了全部 168 篇 Oral,其中只有 104 篇论文代码开源,最终完成了 105 篇完整复现。

其中,只有 34 篇复现了超过 40% 的主张;复现比例超过 80% 的,只剩 8 篇。



无论每篇论文至少包含 1 项、3 项还是 5 项可验证主张,复现得分中位数始终在 28%—30%,整体分布变化不大。



排除未运行、提前中止或超出硬件能力的实验后,复现得分中位数仍只有 42%—50%;当每篇论文至少包含 3 项可验证主张时,中位数稳定在 42%。

复现里最常见的问题都遇到了:代码无法运行、文件缺失、说明不完整、依赖损坏,或者代码跑出的结果和论文对不上。

还有 4 篇论文依赖已经下线的模型。后来的研究者即使愿意花钱、花时间,也不可能重新得到相同结果。

SAI 还列举了两个更具体的例子。

一篇论文把「只训练基础模型0.77%的参数」写成主要卖点,实际发布的检查点却训练了6.31%的参数,约为宣称数字的8 倍

另一篇论文展示了由裁判模型评分的可靠性表格,开源代码中却找不到这个裁判模型,也没有脚本能够算出表格里的数字。

劣质论文,收益高风险低

SAI 的复现结果可以说是相当糟糕。

更糟糕的是,这里发现的问题还只是「有条件被发现」的问题。

那些没有代码的论文,直接就「无懈可击」。



而即使代码完全公开,想要验证一篇论文,所花费的时间、精力和金钱都是巨额的,最后的结果还不如人意,不知道要多崩溃了。

按照 SAI 基于 Google Cloud 公开按需价格给出的估算,完整重跑一篇 ICML Oral 论文,成本中位数约为8900 美元。105 篇论文中,17 篇超过 10 万美元,最昂贵的一篇接近220 万美元

论文越依赖大规模算力,独立复现就越困难。

没有代码,别人无从检查;有了代码,也未必有人付得起这个成本。

于是,一篇存在问题的论文完全可能顺利通过评审、获得引用,再被写进简历,换来录取、教职或者大实验室的工作机会。

偶然有人发现结果对不上,会议也很少重新审查,论文也未必会被撤回。

这就是评论区所说的「做出糟糕的研究有收益,却几乎没有代价」。



不读论文,但是招聘要看论文

在大模型领域,确实有许多真正重要的进展不再以论文的形式出现。

作为 OpenAI 的工程师,站在产业前沿,有这种感受并不难理解。毕竟有更充足的算力、更快的实验反馈和大量不公开的内部结果,有「不读论文」的底气。

但这么说出来,多少有点微妙。

一条评论讽刺科技公司里的人这样是「上岸后抽走梯子」:从高校招走研究人员,建立在学术界公开积累的成果之上,用更高的价格抢走人才和 GPU,自己越来越少接受同行评审,最后却转过头宣布学术研究「主要是骗局」



稍显刻薄,但确实有道理。

这些前沿实验室的人可以「不读论文」,但是想进入的人还是要先发论文。

对于缺少产业经历的学生和年轻研究者来说,顶会论文依然是证明研究能力最直接的凭证。

申请博士、寻找教职、进入 OpenAI 这样的前沿实验室,都要依靠论文获得关注度。

产业界的人在进入大实验室之后轻视论文,却仍然用论文数量、会议级别和引用成绩筛选站在门外的人。

论文于是陷入一种尴尬的位置:它在知识传播上的可信度受到质疑,在人才竞争中的价值却丝毫没有消失。

所以,「大实验室已经不读论文了」听起来稍显清高和傲慢。因为真正有资格不读论文的人,往往已经凭借论文跨过了那道门槛。

当然,也不是所有学生都是精心设计骗局的学术反派。

一位高校研究者开玩笑说,他倒希望自己的学生已经有能力写出一篇夸大其词甚至造假的论文。



有的人在「争做学术骗子」,而有的人还挣扎在 LaTeX。

https://x.com/MathewShen42/status/2084465434506768867

https://x.com/kellerjordan0/status/2084721463089902074

https://sai.science/blog/how-much-science-is-verifiable

https://x.com/mengyer/status/2085134204786921886

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
眼镜女郎:那不是镜片,是我在清晰与模糊之间找到的视线通道

眼镜女郎:那不是镜片,是我在清晰与模糊之间找到的视线通道

疾跑的小蜗牛
2026-08-09 20:18:31
“白海豚”减弱为热带风暴级 浙沪苏皖豫冀等地有强降雨

“白海豚”减弱为热带风暴级 浙沪苏皖豫冀等地有强降雨

中国气象局
2026-08-10 08:14:10
从154亿到4300万,《哪吒2》打开的国漫之窗又被关上了

从154亿到4300万,《哪吒2》打开的国漫之窗又被关上了

影视高原说
2026-08-09 07:59:17
随着广州豹2-0,延边龙鼎0-1,中甲最新积分榜出炉:深圳升第2

随着广州豹2-0,延边龙鼎0-1,中甲最新积分榜出炉:深圳升第2

慢歌轻步谣
2026-08-10 09:28:44
徒步失联真相:未登顶张良垴,在野径打转,搜救贻误时机

徒步失联真相:未登顶张良垴,在野径打转,搜救贻误时机

一口娱乐
2026-08-10 10:23:39
特朗普如今最大的麻烦,不是打不赢伊朗,而是美国越打越像前苏联

特朗普如今最大的麻烦,不是打不赢伊朗,而是美国越打越像前苏联

近代风云传
2026-08-05 23:39:59
切尔西与柔佛多次冲突赛后无点球大战,蓝军官员:合同里写着呢

切尔西与柔佛多次冲突赛后无点球大战,蓝军官员:合同里写着呢

懂球帝
2026-08-09 23:33:04
好穿搭不是强行改变身形,而是放大独有的体态优势

好穿搭不是强行改变身形,而是放大独有的体态优势

飛尚日记
2026-07-15 07:27:00
当年抢破头,如今没人要?这7样“神物”的崩盘,你踩中了几个?

当年抢破头,如今没人要?这7样“神物”的崩盘,你踩中了几个?

阿莱美食汇
2026-08-09 09:25:55
印度专家:歼20数量那么多,却要在交战前被拆解,太可惜

印度专家:歼20数量那么多,却要在交战前被拆解,太可惜

巅峰高地
2026-08-07 20:02:41
女友是瑜伽老师是什么体验?

女友是瑜伽老师是什么体验?

那年秋天
2026-08-01 09:10:00
TVB最贵视帝被指断崖式衰老!街头开工步履蹒跚、满脸倦容

TVB最贵视帝被指断崖式衰老!街头开工步履蹒跚、满脸倦容

喜欢历史的阿繁
2026-08-08 07:52:33
曝小卡若禁赛交易将被修改!猛龙拒绝付出太大代价 或收回一个选秀签

曝小卡若禁赛交易将被修改!猛龙拒绝付出太大代价 或收回一个选秀签

行舟问茶
2026-08-10 10:27:01
太巧反而假?全家撞脸张雪峰,老婆相像、妹夫酷似助理,越扒越深

太巧反而假?全家撞脸张雪峰,老婆相像、妹夫酷似助理,越扒越深

小椰的奶奶
2026-08-09 02:13:16
巴赫三次登门,呼吁中国拿出大国担当申办奥运,中方回应大快人心

巴赫三次登门,呼吁中国拿出大国担当申办奥运,中方回应大快人心

新一说史
2026-08-07 19:00:40
央一央八黄金档前后脚接档!《密档1931》VS《暗城代号》最强谍战

央一央八黄金档前后脚接档!《密档1931》VS《暗城代号》最强谍战

陈意小可爱
2026-08-09 03:19:39
笑容独特的网红“老表”遗体已找到,22万粉丝账号宣布永久停更,亲属:他以残疾身体打工寄钱回家,建的毛坯房至今没装修

笑容独特的网红“老表”遗体已找到,22万粉丝账号宣布永久停更,亲属:他以残疾身体打工寄钱回家,建的毛坯房至今没装修

极目新闻
2026-08-09 13:32:14
消费降级后大家第一个砍的是什么?网友:第一个直接杀死比赛!

消费降级后大家第一个砍的是什么?网友:第一个直接杀死比赛!

夜深爱杂谈
2026-08-03 21:18:54
1992年,邓颖超生命最后一刻,耗尽力气喊出"李鹏"不是丈夫周恩来

1992年,邓颖超生命最后一刻,耗尽力气喊出"李鹏"不是丈夫周恩来

历史人文2
2026-07-31 05:30:03
港媒:中国高铁已被“粪便淹没”!再不解决后果严重,真的假的?

港媒:中国高铁已被“粪便淹没”!再不解决后果严重,真的假的?

青山夜谈
2026-07-23 03:37:44
2026-08-10 11:52:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13716文章数 142716关注度
往期回顾 全部

科技要闻

马斯克又放大招:星链要吃掉全球一半流量

头条要闻

媒体:美军高官特别想访华 曾将中国列为美国最大威胁

头条要闻

媒体:美军高官特别想访华 曾将中国列为美国最大威胁

体育要闻

阿森纳的39号球衣,有了最适合的主人

娱乐要闻

贾冰的一场饭局,给娱乐圈上了一课

财经要闻

宇树今申购 具身智能赛道将迎“估值锚”

汽车要闻

实打实的体量感 家越07能否成为20万内家用SUV新爆款?

态度原创

数码
游戏
手机
艺术
军事航空

数码要闻

瓦尔基里推出VK M5 Max THOR索珥电竞鼠标,299元

魔兽世界:时光服P5金团霸榜前五的极品装备,你是否已经拿到?

手机要闻

iQOO Neo11至尊版图赏:横向Deco +驰光白清爽配色

艺术要闻

22幅 当代中国画家优秀油画作品

军事要闻

伊朗称重开霍尔木兹海峡前提是美国满足5个条件

无障碍浏览 进入关怀版