网易首页 > 网易号 > 正文 申请入驻

OpenAI放话训练成本降10倍,谷歌工程师在评论区吵了300楼

0
分享至


2024年9月,OpenAI发布o1模型时抛出一组数字:推理成本比GPT-4o低83%,未来12个月内还要再降10倍。这条推文下面,谷歌DeepMind的研究员和OpenAI的前员工吵了整整三天,话题从"算力霸权"一路歪到"你家集群用的什么散热方案"。

这场景像极了小学操场。只不过当年比的是"我爸在任天堂上班",现在比的是"我家数据中心的PUE(能源使用效率)比你家低0.05"。

从忍者爸爸到液冷服务器

AI圈的"我爸比你爸强"叙事有个专业术语:规模法则(Scaling Law)。2020年OpenAI发表论文,证明模型参数、训练数据、算力投入和性能提升存在可预测的数学关系。这条曲线成了行业圣经,也成了吵架的弹药库。

「我们花了3亿美元训练GPT-4,」OpenAI研究员在播客里半开玩笑地说,「但真正的炫耀点在于,我们知道怎么花3亿,而别人花6亿也训不出同样的东西。」

这种话激怒了竞争对手。Anthropic的Dario Amodei在2024年6月的访谈中直接反击:「规模法则不是OpenAI的专利,我们早在2022年就验证了同样的规律。」他透露Claude 3.5 Sonnet的训练成本"远低于外界猜测",但拒绝给出具体数字。

成本数字成了核心机密。Sam Altman在2024年达沃斯论坛上被追问GPT-5训练预算时,只回了一句:「比我们付得起的多,但比竞争对手以为的少。」

10倍降本背后的技术暗战

OpenAI的"12个月降本10倍"承诺,拆解下来是三张技术牌。

第一张是推理优化。o1模型采用"思维链"(Chain-of-Thought)技术,让模型在回答前生成内部推理步骤。这看似增加了计算量,实际通过选择性激活神经元,将单次推理的浮点运算效率提升了4-6倍。

第二张是硬件协同设计。OpenAI与微软Azure合作定制的AI芯片,在2024年第三季度完成部署。据The Information报道,这批芯片针对Transformer架构的矩阵运算做了专门优化,同等算力下功耗降低40%。

第三张是数据效率。传统大模型训练需要海量互联网文本,o1系列转向"合成数据+强化学习"路线——用旧模型生成高质量训练样本,再让新模型从中学习。Google DeepMind的论文显示,这种方法在数学推理任务上,能用1/10的数据量达到同等效果。

但谷歌不认输。2024年10月,DeepMind CEO Demis Hassabis在伦敦演讲时放话:「Gemini Ultra的训练效率已经超越行业平均水平,我们的下一代模型将证明,规模不是唯一答案。」

这场口水战的荒诞之处在于:双方都在说"我效率更高",却没人敢公开账本。

playground 经济学的真实代价

成本数字的模糊化,掩盖了一个更尖锐的问题——谁付得起入场费?

2024年,训练一个前沿大模型的门槛已升至5-10亿美元。这还不包括人才成本:OpenAI的顶级研究员年薪包普遍超过200万美元,Anthropic为挖角关键工程师曾开出500万美元签字费。

小型玩家被迫寻找捷径。法国AI公司Mistral采用"模型蒸馏"技术,用GPT-4的输出训练自己的开源模型,成本压缩到原版的1/20。CEO Arthur Mensch在2024年4月的访谈中承认:「我们站在巨人的肩膀上,但巨人的肩膀越来越贵。」

更激进的路线来自硬件层面。SambaNova、Cerebras等芯片创业公司押注"存算一体"架构,试图用物理层面的设计变革打破英伟达的垄断。Cerebras CEO Andrew Feldman在2024年9月宣称,其晶圆级处理器训练同等模型的能耗仅为GPU集群的1/10。

这些数字的真实性难以验证。就像小学操场上"我爸能举500斤"的宣言,AI圈的降本叙事混杂着技术突破、会计魔术和公关话术。

当成本曲线撞上物理墙

2024年底,行业出现微妙转向。

OpenAI的o3模型发布时,Altman不再强调成本下降,转而谈论"推理能力的质变"。内部人士透露,o3在某些任务上的训练成本实际高于o1,但官方拒绝确认具体数字。

谷歌的反应更具戏剧性。2024年12月,DeepMind突然开源了Gemini 2.0 Flash的轻量版本,并附上一份详细的技术报告,首次公开部分训练效率数据。Hassabis的解释很直白:「当竞争进入新阶段,透明度本身成了武器。」

这种策略转变暗示了一个被回避的事实:纯靠堆算力的规模法则可能正在边际递减。Epoch AI的研究显示,2020-2024年间,大模型性能提升所需的算力投入增长了1000倍,但下游任务的标准化测试分数提升幅度从年均15%降至5%。

「我们都在等下一个范式转移,」前OpenAI研究员、现Anthropic联合创始人Daniela Amodei在2024年11月的播客中说,「可能是算法突破,可能是新硬件,也可能证明这条路根本走不通。」

playground 的边界正在收缩。当训练成本逼近10亿美元门槛,"我爸比你爸强"的游戏规则本身受到了质疑。下一个炫耀的筹码,或许不再是数据中心的规模,而是谁能用更少的钱、更小的模型、更聪明的算法,做出同样聪明的东西。

如果OpenAI真的在12个月内把成本压到1/10,谷歌会跟进公开账本吗?还是这场比谁爸爸更强的游戏,注定只能以互相拉黑告终?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深圳一楼盘遭哄抢,保安向人群喷辣椒水!开发商致歉

深圳一楼盘遭哄抢,保安向人群喷辣椒水!开发商致歉

南方都市报
2026-04-13 17:00:47
今晚10点准时封锁!美总统没料到:中东贵客现身北京,中国出招了

今晚10点准时封锁!美总统没料到:中东贵客现身北京,中国出招了

梦史
2026-04-14 01:40:13
又一知名演员去世

又一知名演员去世

无锡eTV全媒体
2026-04-14 05:53:10
突发!埃尔多安直接宣战以色列:内塔尼亚胡就是希特勒必须收拾

突发!埃尔多安直接宣战以色列:内塔尼亚胡就是希特勒必须收拾

世界有奇事
2026-04-14 12:43:29
安徽一对夫妻杀人后潜逃20年,各自另组家庭,结局让人意料不到到

安徽一对夫妻杀人后潜逃20年,各自另组家庭,结局让人意料不到到

谈史论天地
2026-04-14 15:40:03
外交部谈美军拟在菲律宾建军事燃料库:奉劝有关国家多做有利于地区和平稳定的事,而不是相反

外交部谈美军拟在菲律宾建军事燃料库:奉劝有关国家多做有利于地区和平稳定的事,而不是相反

界面新闻
2026-04-14 15:32:45
郑丽文返台后,岛内民调曝光,位列倒数第三,与沈伯洋几乎持平?

郑丽文返台后,岛内民调曝光,位列倒数第三,与沈伯洋几乎持平?

观星赏月
2026-04-14 13:24:34
徐昕获五支NBA球队试训邀请,朱芳雨未吹牛,杜锋不会用

徐昕获五支NBA球队试训邀请,朱芳雨未吹牛,杜锋不会用

曾蠃爱旅行
2026-04-14 14:38:24
大量中国游客滞留当地,航班被全部取消!“森拉克”大概率正面袭击塞班岛……

大量中国游客滞留当地,航班被全部取消!“森拉克”大概率正面袭击塞班岛……

新浪财经
2026-04-14 14:56:09
博主:华为Pura X Max 8988元起 典藏版10988元起

博主:华为Pura X Max 8988元起 典藏版10988元起

CNMO科技
2026-04-14 13:47:35
嫁大自己18岁的凌峰,八十年代号称青岛美女贺顺顺,如今过得咋样

嫁大自己18岁的凌峰,八十年代号称青岛美女贺顺顺,如今过得咋样

揽星河的笔记
2026-04-10 18:42:07
“晚打不如早打,小打不如大打,打一个,不如拉日本一起打”。

“晚打不如早打,小打不如大打,打一个,不如拉日本一起打”。

安安说
2026-03-14 18:50:59
再见了,NBA!最后一舞,河村勇98分超杨瀚森!

再见了,NBA!最后一舞,河村勇98分超杨瀚森!

体育新角度
2026-04-14 08:18:13
詹姆斯70了!!牛啊!又一个历史第一!!

詹姆斯70了!!牛啊!又一个历史第一!!

柚子说球
2026-04-14 16:15:00
男子把5个月婴儿独留在家,4小时喂一次奶;他的穷比窒息更可怕!

男子把5个月婴儿独留在家,4小时喂一次奶;他的穷比窒息更可怕!

许三岁
2026-04-14 08:24:29
撕破脸了!巴西前模特警告特朗普:你们两口子什么样我最清楚!

撕破脸了!巴西前模特警告特朗普:你们两口子什么样我最清楚!

爱一449
2026-04-13 21:02:39
长公主被家暴流产了

长公主被家暴流产了

毒舌扒姨太
2026-04-08 22:29:19
世锦赛战报:中国3胜3负!常冰玉8-10不敌世界冠军,傅家俊6-10

世锦赛战报:中国3胜3负!常冰玉8-10不敌世界冠军,傅家俊6-10

球场没跑道
2026-04-14 00:52:09
索博斯洛伊:我已经做好了明天死在球场上的准备

索博斯洛伊:我已经做好了明天死在球场上的准备

懂球帝
2026-04-14 00:23:19
李在明毫不退让,不理以色列的怒火,下令调查以军_原文

李在明毫不退让,不理以色列的怒火,下令调查以军_原文

落梅如雪乱飞
2026-04-14 16:34:21
2026-04-14 17:27:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
1397文章数 35关注度
往期回顾 全部

科技要闻

离职同事"炼化"成AI?这届公司不需要活人了

头条要闻

大陆公布十项惠台政策 民进党当局拟封杀

头条要闻

大陆公布十项惠台政策 民进党当局拟封杀

体育要闻

他做对了所有事,却被整个职业网坛放逐了八年

娱乐要闻

宋祖儿刘宇宁恋情大反转 正主火速辟谣

财经要闻

许家印受审当庭表示认罪悔罪

汽车要闻

售12.99万起/续航2000km 风云T9L上市

态度原创

教育
艺术
本地
家居
军事航空

教育要闻

初中数学,根式运算

艺术要闻

这位美女画家的夏天竟如此梦幻

本地新闻

12吨巧克力有难,全网化身超级侦探添乱

家居要闻

现代融合 自然灵动

军事要闻

伊朗要求五个中东国家赔偿战争损失

无障碍浏览 进入关怀版