网易首页 > 网易号 > 正文 申请入驻

0.506到0.774:亚马逊让LLM先替GPU试错

0
分享至

做AI研究的人都有过这种时刻:一个想法冒出来,直觉告诉你它可能有用,但真要验证,得先烧掉一批GPU。跑还是不跑,往往只能靠猜。

亚马逊的一篇新论文给出了另一种可能——让大模型在实验开始前,先预测这次改动到底有没有收益。换句话说,把LLM当成一个"研究世界模型",在任何人花掉GPU时间之前,先判断这次训练调整会不会帮上忙。


为什么需要提前预测

AI研究智能体提出实验的速度,已经远远超过团队能负担得起的执行速度。想法不缺,缺的是算力。

当候选实验排成长队,真正稀缺的资源就变成了"决定跑哪一个"。而这个决定,本质上是在提前猜测结果。猜错了,GPU时间就白烧了。

论文的思路正是冲着这个环节去的:与其事后复盘,不如让模型在实验前给出一个收益预判。

2653条真实记录怎么用

研究团队把LLM当作研究世界模型来用,任务是预测一个实验在跑之前能带来多少增益。测试数据来自9个实验设置下的2653条真实实验记录,覆盖范围从预训练一直到推理阶段。

关键发现是:同一个设置下的历史记录,能显著提升预测的准确度。

加入这些记录后,预测结果与实际结果的平均排名相关性,在5个设置上从0.506提升到了0.774。

这个数字的含义很直接——模型对"哪个实验更好"的排序判断,和真实跑出来的结果更接近了。

低推理投入反而赢了

更有意思的对比出现在OLMo3-100M这个设置上。

在低推理投入(low reasoning effort)的情况下,加入历史记录后得分达到0.892。而在最大推理投入(max effort)但不提供记录的情况下,得分只有0.648。

也就是说,喂给模型的历史实验记录,比让它多想一会儿更管用。推理投入拉满,也补不上没有记录这个缺口。

这对实际使用有直接指向:与其把算力花在让模型反复推演上,不如先把过去的实验数据整理好喂进去。

给跑研究智能体的人一条建议

论文给出的操作建议很朴素:如果你在跑研究智能体,把每一次实验都记录下来,包括失败的实验,然后把这些记录喂给那个负责挑选下一次运行的模型。

失败记录同样有价值——它们构成了"什么不管用"的边界,而这恰恰是预测下一个实验时最需要的信息。

从0.506到0.774,从0.648到0.892,两组数字指向同一件事:在GPU时间被烧掉之前,历史记录正在变成一种可复用的判断力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中方已仁至义尽,消息递进东京,高市沉默3天,对中国有了新想法

中方已仁至义尽,消息递进东京,高市沉默3天,对中国有了新想法

白日追梦人
2026-10-11 20:34:37
徐正源:跟球迷们说一声对不起,后面比赛每一场都要争胜

徐正源:跟球迷们说一声对不起,后面比赛每一场都要争胜

懂球帝
2026-10-11 23:49:24
商K女返乡潮来了,大批江浙沪商K女孩返乡相亲,未婚男生务必警惕!从这几个方面精准辨别,防止踩坑!

商K女返乡潮来了,大批江浙沪商K女孩返乡相亲,未婚男生务必警惕!从这几个方面精准辨别,防止踩坑!

说点事
2026-10-10 10:29:14
远离满嘴“家国大义”的人

远离满嘴“家国大义”的人

难得君
2026-10-04 14:53:26
胡塞犯大错!打沙特机场死伤300多人,巴基斯坦猛批:这是恐袭

胡塞犯大错!打沙特机场死伤300多人,巴基斯坦猛批:这是恐袭

知法而形
2026-10-11 10:15:39
泽连斯基:请转告普京 全面停火60天就组织选举

泽连斯基:请转告普京 全面停火60天就组织选举

看看新闻Knews
2026-10-12 10:49:22
1-1后!意甲一夜4强队不胜,大黑马进前四,尤文米兰爆冷国米笑了

1-1后!意甲一夜4强队不胜,大黑马进前四,尤文米兰爆冷国米笑了

体育知多少
2026-10-12 07:27:50
13投17分!欧文神级首秀!独行侠最快速度交易

13投17分!欧文神级首秀!独行侠最快速度交易

篮球实战宝典
2026-10-11 20:49:58
这张赤身渡河老照片,为何能进战争博物馆?看懂的人都哭了

这张赤身渡河老照片,为何能进战争博物馆?看懂的人都哭了

小豫讲故事
2026-10-08 06:00:16
冲绳美军杀人案件戏剧性反转,日本舆论让全世界目瞪口呆

冲绳美军杀人案件戏剧性反转,日本舆论让全世界目瞪口呆

斐君观点
2026-10-10 08:09:11
永州女局长周晓芬手里烫手的保证书:证据脱离场景,舆论替代调查

永州女局长周晓芬手里烫手的保证书:证据脱离场景,舆论替代调查

十为先生
2026-10-11 17:52:07
社保启动大数据严格倒查!挂靠、违规补缴,旧账终身追溯!

社保启动大数据严格倒查!挂靠、违规补缴,旧账终身追溯!

职场资深秘书
2026-10-12 10:51:38
周鸿祎攀岩坠落致左膝粉碎性骨折:未来两三个月所有外出活动取消

周鸿祎攀岩坠落致左膝粉碎性骨折:未来两三个月所有外出活动取消

澎湃新闻
2026-10-12 07:50:27
周杰自曝10年只吃一顿饭:早上一个苹果、中午一顿正餐,网友:对自己这么“狠”?

周杰自曝10年只吃一顿饭:早上一个苹果、中午一顿正餐,网友:对自己这么“狠”?

小方说跑步
2026-10-11 13:55:03
斯瓦泰克坐高铁转战武网,坦言年终总决赛席位争夺激烈,会全力打好每场球

斯瓦泰克坐高铁转战武网,坦言年终总决赛席位争夺激烈,会全力打好每场球

极目新闻
2026-10-11 19:30:19
一男子国庆假期被排7天班,一天都没去遭开除;法院:10月4日至7日未按照公司安排参加工作,应认定为旷工;公司无需支付其经济赔偿金

一男子国庆假期被排7天班,一天都没去遭开除;法院:10月4日至7日未按照公司安排参加工作,应认定为旷工;公司无需支付其经济赔偿金

第一财经资讯
2026-10-11 15:53:39
纯电续航800km!比亚迪新车官宣:10月12日继续开卖

纯电续航800km!比亚迪新车官宣:10月12日继续开卖

趣味萌宠的日常
2026-10-12 06:34:43
00 后硬刚!华中高校强制女学生机场无偿接留学生,辅导员拿“荣誉”施压,6 位女生争取成功改写规则

00 后硬刚!华中高校强制女学生机场无偿接留学生,辅导员拿“荣誉”施压,6 位女生争取成功改写规则

秋风妃
2026-10-10 06:42:07
59岁的阿姨,用两身得体的穿搭,把自己打扮的宛如少女

59岁的阿姨,用两身得体的穿搭,把自己打扮的宛如少女

美女穿搭分享
2026-10-05 10:31:23
猪身上的4个部位,建议大家少吃,猪大肠排最后,榜首多数人爱吃

猪身上的4个部位,建议大家少吃,猪大肠排最后,榜首多数人爱吃

芹姐说生活
2026-10-03 20:26:16
2026-10-12 11:48:49
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
175文章数 95关注度
往期回顾 全部

科技要闻

尊界:10月底确认制动踏板支架升级方案

头条要闻

马斯克想邀"中国版马斯克"跳舞:14亿人肯定有像我的

头条要闻

马斯克想邀"中国版马斯克"跳舞:14亿人肯定有像我的

体育要闻

英超-曼城3-0十人利物浦 豪取6连胜领跑

娱乐要闻

梅启明自资办梅艳芳追思会,34人到场

财经要闻

尊界,是江淮的救命车还是失血引擎?

汽车要闻

大6座插混SUV新选择 阿维塔T09概念版亮相巴黎车展

态度原创

房产
家居
健康
数码
军事航空

房产要闻

加价255万;疯抢212轮!海口豪宅,又有新剧本!

家居要闻

2026建博会(广州) 公装联探展交流活动

痘坑留下后,还能填平吗?

数码要闻

AI倒逼厂商退步:十年前的DDR4要全面回归!

军事要闻

视频:沙特方面公布利雅得机场遭袭画面

无障碍浏览 进入关怀版