网易首页 > 网易号 > 正文 申请入驻

中金测算:推理逐层优化后混合成本降至约0.039美元/百万Token

0
分享至


观点网讯:8月31日,中金发布研究报告《Token启示录(五):推理产业链深度-测算篇》。该报告为推理产业链深度报告下篇,在中金研究测算视角下定量分析了推理优化对效率与成本的影响,并梳理产业链参与者格局。

格局方面,根据IDC,2025年中国公有云MaaS市场按调用量计算,火山引擎占据了接近一半的份额,其次是阿里云、百度智能云、硅基流动以及移动云。

测算结果显示,以样本量最大的模型D为例,其在B200上的每卡吐出量区间为152 token/s到14,949 token/s,对应的每百万Token成本区间为0.04~3.3美元。

模型A在GB200上同样呈现339~12,116 token/s的宽幅分布,不同模型与芯片组合间的性能差异明显。

效率方面,中金测算模型D的每卡吐出量均值由H100的850 token/s、H200的1,233 token/s,提升至B200的3,916 token/s与GB200的4,586 token/s,提升幅度约3~5倍。

成本方面,中金测算显示,在经过逐层优化后,混合实际成本可达约0.039美元/百万Token,较基准情况下约44.46美元/百万Token的推理成本大幅下降。基准情况设定为稠密架构400B、MHA、FP8、Prefill全注意力、推理引擎工程达成率10%、集群利用效率30%。

中金认为,硬件厂商外,推理产业链主要参与者包括模型厂商、超大规模云厂商、新云、推理优化平台、异构算力管理平台、多模型API聚合平台等,各环节毛利率主要取决于推理优化能力、硬件利用率、硬件采购成本和产品定价权。

单项优化较难形成持续的成本优势,覆盖模型、算法、引擎与硬件的Co-design能力更有可能形成持续的单位Token成本优势;第三方厂商服务敏捷、专注推理引擎提升有效吞吐,长期则需要向硬件或者向模型靠拢。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
10月1日起,18到60岁都可能被征召,这部新法藏着什么信号

10月1日起,18到60岁都可能被征召,这部新法藏着什么信号

施涛说
2026-09-01 11:16:16
“他们会把我绞死”——普京为何不愿结束战争

“他们会把我绞死”——普京为何不愿结束战争

走进乌克兰2022
2026-09-01 08:39:24
失控!孙宇晨或保不住了!

失控!孙宇晨或保不住了!

财经要参
2026-09-01 07:20:14
科大讯飞出轨女主更多照片曝光:她长得娇小可爱,丈夫应该再给她一次机会

科大讯飞出轨女主更多照片曝光:她长得娇小可爱,丈夫应该再给她一次机会

汉史趣闻
2026-09-01 13:47:29
“没有手艺都是科技”,青岛一烤羊店招牌被六旬师傅装反,店主:主打纯手艺无科技,视频太火了,正在犹豫要不要改过来

“没有手艺都是科技”,青岛一烤羊店招牌被六旬师傅装反,店主:主打纯手艺无科技,视频太火了,正在犹豫要不要改过来

扬子晚报
2026-09-01 12:22:59
后续来了!那个叫嚣“我就是违法,你去告啊”的HR,被00后一夜治服了

后续来了!那个叫嚣“我就是违法,你去告啊”的HR,被00后一夜治服了

小徐讲八卦
2026-09-01 08:18:51
吴柳芳谈退役安置不公:我没刘翔那命,只有16万买断

吴柳芳谈退役安置不公:我没刘翔那命,只有16万买断

东方不败然多多
2026-09-01 11:00:29
沧州市教育局,你也太丢人了!

沧州市教育局,你也太丢人了!

新区晚参
2026-09-01 11:59:29
价格大跳水!突现“2”字头,杭州部分降幅超75%,网友:这把必须冲了

价格大跳水!突现“2”字头,杭州部分降幅超75%,网友:这把必须冲了

19楼
2026-09-01 08:16:23
开豪车住别墅打造“富婆”人设!网红“曲靖丽姐”涉嫌刑案被警方调查

开豪车住别墅打造“富婆”人设!网红“曲靖丽姐”涉嫌刑案被警方调查

红星新闻
2026-09-01 15:28:36
张一山《重案六组》首播被要求下架,理由出奇一致:毁了警察形象

张一山《重案六组》首播被要求下架,理由出奇一致:毁了警察形象

秋姐居
2026-09-01 16:46:52
王治郅吓出一身冷汗,赛后询问赵继伟:绝杀球咋传的,我看都要丢

王治郅吓出一身冷汗,赛后询问赵继伟:绝杀球咋传的,我看都要丢

狼叔评论
2026-09-01 13:56:09
孙宇晨破防,全网实名批量投诉,他无法接受别人提孙割这个名字

孙宇晨破防,全网实名批量投诉,他无法接受别人提孙割这个名字

芊手若
2026-09-01 15:06:19
内地女主播与男网友约定在澳门“面基”,一夜之后双双报警回不去了!网友:这招在澳门可不好用了!

内地女主播与男网友约定在澳门“面基”,一夜之后双双报警回不去了!网友:这招在澳门可不好用了!

澳门月刊
2026-08-31 15:22:56
马杜罗发朋友圈,全世界都沉默了:原来蹲大牢比当总统还舒服?

马杜罗发朋友圈,全世界都沉默了:原来蹲大牢比当总统还舒服?

民间胡扯老哥
2026-09-01 06:44:17
尼泊尔“楼坚强”走红网络!网友:这个打叉三角结构非常重要,坚固原因就在于此,建议新的海关边检大楼也要这样设计

尼泊尔“楼坚强”走红网络!网友:这个打叉三角结构非常重要,坚固原因就在于此,建议新的海关边检大楼也要这样设计

火山詩话
2026-09-01 16:33:31
《牛来》宣布延长上映!公映密钥延期至10月4日,票房从7000元飙到近6000万,AI预测票房近7000万

《牛来》宣布延长上映!公映密钥延期至10月4日,票房从7000元飙到近6000万,AI预测票房近7000万

金融界
2026-08-31 16:55:22
男子在肉铺店杀害一人后报警,等待警察时又行凶致2人身亡,一审被判处死刑,3死者家人索赔600余万

男子在肉铺店杀害一人后报警,等待警察时又行凶致2人身亡,一审被判处死刑,3死者家人索赔600余万

大风新闻
2026-09-01 11:57:03
抖音突发推荐算法大面积错乱!客服称“系统优化导致”,暂无法确定恢复时间

抖音突发推荐算法大面积错乱!客服称“系统优化导致”,暂无法确定恢复时间

每日经济新闻
2026-09-01 16:05:16
奔驰回应星宇劝退应届生:严重道德和劳动失当行为

奔驰回应星宇劝退应届生:严重道德和劳动失当行为

罗sir财话
2026-08-31 09:12:07
2026-09-01 18:47:01
观点机构 incentive-icons
观点机构
房地产行业权威专业全媒体
307101文章数 80658关注度
往期回顾 全部

科技要闻

抖音突发推荐算法大面积错乱!

头条要闻

媒体:好莱坞顶流男星因一句话被指反犹 可能要被封杀

头条要闻

媒体:好莱坞顶流男星因一句话被指反犹 可能要被封杀

体育要闻

大爹杨瀚森,让中国男篮有了容错空间

娱乐要闻

孙宇晨破防,他无法接受孙割这个名字

财经要闻

库克卸任,苹果下一个增长点在哪?

汽车要闻

山城试驾启源Q06 不光是智驾好用还有700km的续航

态度原创

游戏
本地
艺术
旅游
公开课

不服?管泽元被曝停工硬刚LPL:不满处罚 主动休息

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

艺术要闻

日本发现一幅米芾真迹!每个字都在疯狂炫技,王羲之来了也要避其锋芒

旅游要闻

游客在博物馆摸神秘化石,答案竟是“恐龙粪便”?馆方回应

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版