微软AI的Mustafa Suleyman在社交平台上公布了一组对比数据:在留出代码测试集上,他们用比DeepSeek-V4-Pro-Base少12倍的训练算力,追平了后者的预训练得分。
这条消息的核心只有一句话——"Scaling laws, scaling... with compounding efficiency"。翻译过来就是:规模定律还在起作用,但效率正在叠加放大。
![]()
12倍算力差意味着什么
训练大模型烧的是算力,算力背后是芯片、电力和时间。同样的代码能力,一方用12倍的训练算力才达到,另一方用1/12就追平,差距落在成本结构上。
Suleyman给出的对比对象是DeepSeek-V4-Pro-Base的预训练得分,测试集是held-out code,也就是模型训练时没有见过的代码数据。这个设定排除了"背题"的可能。
效率叠加,而非单点突破
他用的词是"compounding efficiency"——复合效率。这不是某一项技术的单独优化,而是多个环节的效率改进叠加在一起产生的效果。
规模定律过去被认为是"投入越多、效果越好"的线性叙事,而这次公布的数据指向另一种可能:在同等效果下,投入可以大幅压缩。
对于做模型训练的人来说,12倍算力差直接对应的是训练预算的量级差异。这条对比数据本身,就是一份关于训练效率的公开成绩单。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.