网易首页 > 网易号 > 正文 申请入驻

中金测算:推理逐层优化后混合成本降至约0.039美元/百万Token

0
分享至

来源:观点地产网

观点网讯:8月31日,中金发布研究报告《Token启示录(五):推理产业链深度-测算篇》。该报告为推理产业链深度报告下篇,在中金研究测算视角下定量分析了推理优化对效率与成本的影响,并梳理产业链参与者格局。

格局方面,根据IDC,2025年中国公有云MaaS市场按调用量计算,火山引擎占据了接近一半的份额,其次是阿里云、百度智能云、硅基流动以及移动云。

测算结果显示,以样本量最大的模型D为例,其在B200上的每卡吐出量区间为152 token/s到14,949 token/s,对应的每百万Token成本区间为0.04~3.3美元。

模型A在GB200上同样呈现339~12,116 token/s的宽幅分布,不同模型与芯片组合间的性能差异明显。

效率方面,中金测算模型D的每卡吐出量均值由H100的850 token/s、H200的1,233 token/s,提升至B200的3,916 token/s与GB200的4,586 token/s,提升幅度约3~5倍。

成本方面,中金测算显示,在经过逐层优化后,混合实际成本可达约0.039美元/百万Token,较基准情况下约44.46美元/百万Token的推理成本大幅下降。基准情况设定为稠密架构400B、MHA、FP8、Prefill全注意力、推理引擎工程达成率10%、集群利用效率30%。

中金认为,硬件厂商外,推理产业链主要参与者包括模型厂商、超大规模云厂商、新云、推理优化平台、异构算力管理平台、多模型API聚合平台等,各环节毛利率主要取决于推理优化能力、硬件利用率、硬件采购成本和产品定价权。

单项优化较难形成持续的成本优势,覆盖模型、算法、引擎与硬件的Co-design能力更有可能形成持续的单位Token成本优势;第三方厂商服务敏捷、专注推理引擎提升有效吞吐,长期则需要向硬件或者向模型靠拢。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“眼神都拉丝了!”家长晒母子互动视频,引全网不适:儿大不避母的结果

“眼神都拉丝了!”家长晒母子互动视频,引全网不适:儿大不避母的结果

妍妍教育日记
2026-08-31 23:54:51
男子在肉铺店杀害一人后报警,等待警察时又行凶致2人身亡,一审被判处死刑,3死者家人索赔600余万

男子在肉铺店杀害一人后报警,等待警察时又行凶致2人身亡,一审被判处死刑,3死者家人索赔600余万

大风新闻
2026-09-01 11:57:03
快讯!台湾馆长传来消息!

快讯!台湾馆长传来消息!

故事终将光明磊落
2026-09-01 10:39:24
名古屋亚运会还没开,先把人看愣了:45个国家和地区全报名,总人数直奔1.6万,可爱知县知事说了实话,预算只够1.5万人,多出来的人没地住

名古屋亚运会还没开,先把人看愣了:45个国家和地区全报名,总人数直奔1.6万,可爱知县知事说了实话,预算只够1.5万人,多出来的人没地住

扶苏聊历史
2026-08-31 16:31:11
多所高校宣布:中秋、国庆连放13天!

多所高校宣布:中秋、国庆连放13天!

闪电新闻
2026-08-31 19:03:32
俄军撤离红利曼主城,乌失守五定居点

俄军撤离红利曼主城,乌失守五定居点

凤凰卫视
2026-09-01 16:19:07
易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

黎兜兜
2026-08-31 17:33:14
他接受纪律审查和监察调查

他接受纪律审查和监察调查

锡望
2026-08-31 10:05:39
赖亚文下课?女排医疗官发声,输球真相曝光,谁注意赵勇输球举动

赖亚文下课?女排医疗官发声,输球真相曝光,谁注意赵勇输球举动

月光倾城p
2026-09-01 11:51:15
一个扎心的真相,赴日中国游客暴跌56%,但日本旅游却创新高

一个扎心的真相,赴日中国游客暴跌56%,但日本旅游却创新高

李砍柴
2026-08-30 08:00:54
从“妻子寻夫”到集体落马,揭中国羽协核心层一锅端内幕

从“妻子寻夫”到集体落马,揭中国羽协核心层一锅端内幕

鲁八两
2026-09-01 08:55:41
孙宇晨遭北大校友集体切割,其过往言行早已引校友不满!

孙宇晨遭北大校友集体切割,其过往言行早已引校友不满!

玖宇维
2026-09-01 15:16:17
你以为日本怕朝鲜,怕的是那几枚导弹?错了。日本真正睡不好觉的,不是射程,而是平壤压根不跟你玩

你以为日本怕朝鲜,怕的是那几枚导弹?错了。日本真正睡不好觉的,不是射程,而是平壤压根不跟你玩

人生录
2026-08-31 00:05:12
玄学提醒:如果一个人还在穿着10年前的衣服,只说明几个问题

玄学提醒:如果一个人还在穿着10年前的衣服,只说明几个问题

木言观
2026-08-01 13:58:35
显身形的灰蓝裙,确实有点儿浮夸

显身形的灰蓝裙,确实有点儿浮夸

飛尚日记
2026-08-31 08:20:58
许家印大概怎么也没料到,自己刚被判刑才四天,王健林就凭一系列举措让口碑迅速逆势翻红

许家印大概怎么也没料到,自己刚被判刑才四天,王健林就凭一系列举措让口碑迅速逆势翻红

人生录
2026-08-30 00:05:13
军史上的沉默:刘伯承与徐向前,为何成了毛主席的“例外”?

军史上的沉默:刘伯承与徐向前,为何成了毛主席的“例外”?

纪史行者
2026-08-31 00:20:09
普京称俄愿意将中俄免签政策永久化,外交部回应

普京称俄愿意将中俄免签政策永久化,外交部回应

澎湃新闻
2026-09-01 15:59:53
俄罗斯财长意外亮相美国G20会议,欧洲国家“感到不安”

俄罗斯财长意外亮相美国G20会议,欧洲国家“感到不安”

财联社
2026-09-01 05:26:11
每体:小蜘蛛认为马竞拒绝巴萨却不介意阿森纳,说明他们不想赢得欧冠

每体:小蜘蛛认为马竞拒绝巴萨却不介意阿森纳,说明他们不想赢得欧冠

懂球帝
2026-09-01 13:54:24
2026-09-01 19:47:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4619180文章数 9412关注度
往期回顾 全部

科技要闻

抖音突发推荐算法大面积错乱!

头条要闻

深圳校服可在商场超市自行购买 经典配色沿用已超20年

头条要闻

深圳校服可在商场超市自行购买 经典配色沿用已超20年

体育要闻

大爹杨瀚森,让中国男篮有了容错空间

娱乐要闻

孙宇晨破防,他无法接受孙割这个名字

财经要闻

库克卸任,苹果下一个增长点在哪?

汽车要闻

山城试驾启源Q06 不光是智驾好用还有700km的续航

态度原创

亲子
游戏
健康
教育
时尚

亲子要闻

女儿的举动太暖心了

《绝地潜者2》避让《GTA6》!更新路线图跳过11月

睡时发生脑梗,抢救时间该怎么算?

教育要闻

高考低分也能读正规国际本科?2026集美大学五大项目全盘点

裙子这样搭外套,能美一整个秋天

无障碍浏览 进入关怀版