网易首页 > 网易号 > 正文 申请入驻

越过“成本拐点”,怎么算好国产算力这本账? | 对话商汤大装置

0
分享至



中国算力+中国AI,商汤大装置“借东风”。

文|魏琳华

编|刘俊宏

过去两年,AI行业最热闹的叙事属于大模型,最焦虑的叙事属于算力。

当行业从训练转向推理,中国算力厂商和模型厂商都在快速验证商业化路径。但一个核心问题始终悬在所有玩家头上:这门生意,到底什么时候能真正赚钱?

问题如此重要,是因为国产算力面临着一场叙事切换:上半场解决"有没有”,下半场就得回答“赚不赚”,甚至每一张卡都要算账。

芯片性能够不够用、生态兼不兼容、集群的经济账跑不跑得通……过去几年,这些问题行业里很多人在问,但真正敢正面回答的,不多。

WAIC 2026期间,光锥智能与商汤科技联合创始人、大装置事业群总裁杨帆,大装置事业群CTO宣善明,首席科学家张行程等一众高管进行了访谈。



商汤科技联合创始人、大装置事业群总裁杨帆

商汤大装置把过去一年做的事、中国算力正在发生的行业变化,以及未来三到五年的判断,几乎和盘托出。

在这场交流中,商汤大装置给出了两个关键的判断:

第一,国产芯片的商业化,会在未来两三年迎来真正的成熟期;

第二,国产化替代绝不仅仅是GPU的替代,而是背后整个AI上游生态体系的重构。这一过程中将涌现大量全新的专业细分技术问题,也会催生大量专业技术厂商参与解决。

两个判断指向同一结果:当国产芯片成为市场主力,AI基础设施厂商不仅要把国产算力用起来,还要让它从“可用”走向“好用”——从技术上能跑通,进阶到稳定高效的发挥。

在这届WAIC上,“如何提升Token效率”成为一个关键的话题。这意味着,企业都在思考如何将资源转化为真实的生产力。

这个过程中,AI基础设施厂商变得前所未有的重要。它一方面承担着算力的建设和分配,另一方面面临着来自模型和产业需求端的双重考验。

Token一年涨25倍 国产算力来到爆发前夜

国产算力正在迈入一个全新的阶段。

最直接的拉动力是今年来自需求端的高速增长。2026年初,以OpenClaw为代表的现象级Agent产品快速破圈,叠加AI Coding能力的规模化落地,直接推动Token调用量实现指数级跃迁。

从海外的OpenAI、Anthropic到国内智谱、月之暗面等公司,均在今年上半年迎来了MaaS业务的爆发增长。尽管不少企业多次上调API售价,但市场调用量仍保持高速增长,甚至供不应求。

价量齐升的态势,也验证了AI需求的真实和迫切:它并不是头部大厂左手倒右手的资本故事,而是一个确定存在的巨大刚需市场。

“今年我们切实感受到产业端在高速强力的推动智能化进程。”杨帆说,“整个‘十五五’周期内,国家经济的各个方面对AI应用更加接纳,我们感觉它不会弱于C端和消费者端的产业规模。”

需求的井喷,彻底激活了Token工厂的高速运转。但和四年前不同的是,Token工厂背后的“发动机”换了。

去年底到今年初,摩尔线程、昆仑芯、沐曦等国产芯片公司们陆续完成了适配和完善,商业化进程被推上快车道。“整个国产芯片商业化的真正市场成熟期,可能就在未来两年。”杨帆判断。

站在时代的风口,商汤大装置早在两年前就看到了这条路径的机会:中国算力+中国AI。

这条路看起来是一个谁都知道的趋势,但知易行难,如何落地需要对AI基础设施有顶层的架构,来解决当国产算力成为“挑大梁”的主角,随之而来的问题。

先从大模型训推说起,中国AI大模型的膨胀速度之快,单一国产算力已经无法满足厂商需求。以最近发布的一批大模型为例,月之暗面的Kimi K3参数规模已经高达2.8T,The Information报道,MiniMax正在研发新一代大模型,预计尺寸将达到2.7T。更大的模型,呼应着更大的算力规模。

聚焦到实际应用中,Agent产品带来的Token消耗暴增,让“性价比”成了今年AI行业的关键词。

由于Agent处理单个任务消耗的Token比大模型问答高出几十倍以上,Agent的爆火带动了Token消耗量翻倍增长。当模型足够好用之后,Token就成了Agent的“生产原料”,采购逻辑变成了“够用、便宜、量大”。买单逻辑一变,整个算力市场的定价体系就要重排。

除了上述场景,不同的AI路线分支也带来了多样化的算力需求,比如世界模型、具身智能、AI for Science(AI4S),这些新物种对算力的要求与传统的语言模型截然不同,单一算力的方案无法适配所有场景。

杨帆打了一个很形象的比喻:“你让一个纯游泳运动员去跑铁人三项,跑的就是不行,但不是说他的运动能力不行。铁人三项如果想跑得好,允许换人的情况下,三个运动员一起跑分就更高。”

所以从真实需求出发,当单一算力无法满足所有的需求时,一个“异构”的算力架构就显得非常重要。

杨帆认为,把技术需求、场景需求分解成不同的技术任务,用不同的硬件适配,组合拿到最优的系统化能力,这个命题将在相当长一段时间内存在。“我们的判断是,异构或组合以后会更多而不是更少。”

用异构算力怎么跑出盈利模型?

AI基础设施的逻辑,是连接。

卡与卡、柜与柜、机房与机房之间的连接,决定算力规模能做多大,也决定这门生意能不能真正跑通。

聚焦国内市场,异构算力是多数国内AI基础设施厂商不得不面临的难题。尤其是在寒武纪、沐曦、中科海光、华为昇腾等国产算力芯片百花齐放的今天,不同算力卡以及背后的生态连接难题,导致这门生意需要反复做适配,“痛苦”又很难赚钱。

“所有芯片厂商,他们既希望芯片卖出去,更希望卖出去后能产生商业化闭环价值,但能完成后者的角色并不多。”杨帆说。

那么,做“国产算力”到底有没有可能赚钱?商汤大装置的答案是:可以,而且已经规模化落地。

对于国产异构算力的优化,商汤大装置的核心打法是PD分离的异构混合推理。

PD分离的核心原理,是大模型推理分为Prefill(预填充)和Decode(解码生成)两个阶段,前者吃算力,后者吃内存和带宽。商汤大装置的做法是把两个阶段拆开、各配更适合的卡。具体效果,杨帆介绍说:“花大概3个月,可以把每一个单卡的有效输出效率平均提升85%~152%左右”。



这种方式操作下来,一台高端算力卡,再配合几十台国产卡协同工作,性价比可达到全部用英伟达H系列的1.25倍。

这意味着商汤大装置不仅用有限的高端资源,撬动了国产卡的最大规模放量,还把Token生产的性价比做到了极致。

光有性价比还不够,迁移门槛也必须打下来。商汤大装置开发了一套工具链,让原本在海外主流算力平台上训练和部署的模型,迁移到国产芯片时的工程化工作量大幅降低。在杨帆看来,降低迁移门槛,是接下来推动国产算力商业化在多个细分场景跑通、实现规模化的基础。

有了这两点,商汤大装置的混推集群,迈过了“可用”的基础线,走向了让企业“更愿意用”的阶段。

于是在短短半年之间,商汤大装置的Token消耗迎来了爆发式增长。今年,商汤大装置对外提供的第三方Token服务量,年初还在日均4000亿的水平,到7月底就预计将达到2.42万亿,年底还会再提升一个数量级,达到日均10万亿的体量。相当于一年内实现25倍增长。

这还远远不是终点,Token的“经济账”还在继续优化。怎么用更少的能源产出更多Token?这是行业当下绕不开的一道难题。

过去IDC时代,衡量数据中心“划算”的核心指标是PUE(能源使用效率)。但AI时代,这个指标开始不够了。杨帆举过一个反例:“当年优化PUE,极限优化PUE会导致机房里的机器风扇狂转,实际上GPU有效输出是降速降频的。因为这个都算机器内耗电,PUE数据虽然好看了,但实际的Token输出效率也受到了影响。”

在AI时代,比起用电效率,用户更关注的是“生产单个Token多少钱”。对此,商汤大装置提出了一个更适合当下行业现状的指标——TPW(每瓦Token数),用来衡量单位电力成本对应的Token产出。

支撑TPW成立的背后,是一套“算电协同”的体系。

在上海临港智算中心,商汤大装置与宁德时代合作,通过电力整合优化、模型预测算力特征、峰谷电价+储能调度等方式,把电价做到比市场均价低约10%。



同时,AIDC还能像蓄水池一样参与电网调节。放到真实场景看,7月10日,国网上海在夏季用电紧张时发出需求响应,商汤大装置的临港数据中心在两小时内释放了75%的容量还给市政电网,两小时内少用了4.6万度电。

底层的算力和能源账都算清楚之后,问题只剩下一个:商汤大装置如何把这套能力,变成一门更大的生意?

产业智能化让AI长在产业里

在底层算力与能源优化方面,商汤大装置交出了一份不错的答卷。但算力账算得再清,Token也不会自己变成生产力。

说到底,AI基础设施要解决的就是一件事:让AI真正在真实场景里落地。

“模型能力今年才真正开始产生足够强的价值,工具级产品、能真正帮企业端生产力解决问题的方案,其实今年才开始出现,这让更多B端的场景被打开。”杨帆说。

AI有价值,但空烧Token对企业来说,是一笔得不偿失的“糊涂账”。

以Uber为例,今年才刚4月,他们公司投入在Claude Code上的2026年预算已经全部用完,但事后评估,这些Token的消耗,并没有同等比例地转化成真正对公司和消费者有用的功能。

这不是Uber一家的问题,而是全行业共同面对的现实。商汤科技大装置事业群CGO杨松分享了一组数据,“麦肯锡的报告(指出),目前全球约88%的企业已在生产环节采用AI技术,但实际价值转化率仅为6%。”

那怎么才能解决这个重要的问题?

贴近产业一线,了解需求。

商汤大装置组建了行业驻场工程师(FDE)团队,深入产业一线陪跑客户。从硅谷火到国内,从Anthropic、OpenAI到国内一众企业,FDE是现阶段AI厂商能够深入企业解决问题的共同选择。

从商汤大装置自身的基因来看,它的选择其实不意外——拥有完善AI基础设施+懂行业know-how,让它比市面上其它公司更具有优势。

一般来说,行业具备端到端整合能力的,基本都是大厂;而大厂的第一优先级,永远是用最好的算力服务自家核心业务,而不是给市场提供更开放、更高性价比的服务。

这种情况,使得商汤大装置的定位就变得稀缺,它是市场上极少数既具备顶尖端到端基础设施能力,又毫无保留向第三方市场开放赋能的“外部服务者”。

在AI基础设施的完善底座上,商汤大装置更关键的能力,其实是它多年沉淀的AI行业经验——技术、产品、工具等多个维度的积累,都是商汤大装置决心切入FDE行业的底气。

这其中,商汤自身研发AI大模型的经验让模型训推能少走弯路;在具身智能、AI视频(短剧)等多个细分赛道的落地探索,让它攒下了更多可以“拿来即用”的技术、产品;而在企业生态合作上铺开的一系列合作方,也都能成为商汤大装置的支持。

在具体如何做好FDE上,商汤大装置也已经在合作中渐渐想清楚了落地的方法论。

杨松分享道,商汤大装置会给每一个需求都明确指标,帮企业评估AI能力对最终业务到底能起到什么价值;此外,通过构建数据飞轮体系的方法论,它能帮助客户更好地完成数据的整理与沉淀。

为此,商汤大装置还定下了1天澄清需求价值,2天产出验证Demo,30天稳定版本上线的交付节奏,实现了AI从Demo到生产稳态的无缝衔接。

目前,商汤大装置FDE已经有了“样板间”。在上海先进制造领域,商汤已服务5家大型国企,落地几十个高价值场景,实现AI应用的快速复制与规模化交付。

回到开头那个问题:商汤大装置为什么能交出这份盈利答卷?

供需错配是客观条件,但客观条件不会自动变成盈利。商汤大装置过去一年多证明了。在AI基础设施这个长期被认为“不赚钱”的领域,规模化盈利靠的不是砸更多卡,而是把每一张卡用得更聪明。这样才能把建算力到落地的每一个环节真正跑通。

把算力到应用的每一个环节真正跑明白,这才是AI基础设施下半场的胜负手,也是商汤大装置率先跑出来的路。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
又一巨头暴雷!创始人跳楼,多家门店关闭,客户血汗钱被坑惨了

又一巨头暴雷!创始人跳楼,多家门店关闭,客户血汗钱被坑惨了

秋枫凋零
2026-07-22 16:53:28
“不熟的人突然找你帮忙有多离谱?”网友:张口就让过户房子

“不熟的人突然找你帮忙有多离谱?”网友:张口就让过户房子

夜深爱杂谈
2026-07-21 20:47:39
LV要起诉中国人民银行?全网爆火调侃,彻底戳穿奢侈品纹样真相

LV要起诉中国人民银行?全网爆火调侃,彻底戳穿奢侈品纹样真相

另子维爱读史
2026-07-22 20:07:47
谢贤去世最大遗憾曝光,谢霆锋违背生前意愿,张柏芝态度出人意料

谢贤去世最大遗憾曝光,谢霆锋违背生前意愿,张柏芝态度出人意料

东方不败然多多
2026-07-22 16:04:25
为啥邹市明比王宝强惨?原因很现实,冉莹颖比马蓉多了2个杀招

为啥邹市明比王宝强惨?原因很现实,冉莹颖比马蓉多了2个杀招

一盅情怀
2026-07-22 15:44:00
见过最虐心的案子是什么 看完之后心里堵得很慌,真是恶魔在人间

见过最虐心的案子是什么 看完之后心里堵得很慌,真是恶魔在人间

侃神评故事
2026-07-23 12:20:05
B站知名装机UP主突然被曝负债200万!“投资彻底崩盘,人已在国外......”只接高端订单,有人私下一次性转付9.1万元全款

B站知名装机UP主突然被曝负债200万!“投资彻底崩盘,人已在国外......”只接高端订单,有人私下一次性转付9.1万元全款

极目新闻
2026-07-22 22:33:17
中国大妈烂大街4件套:“人人都有,却是油腻重灾区”,看你有吗

中国大妈烂大街4件套:“人人都有,却是油腻重灾区”,看你有吗

白宸侃片
2026-07-21 02:40:15
日媒语出惊人,高市或走向最后一步,中日一旦开战,结局只有一个

日媒语出惊人,高市或走向最后一步,中日一旦开战,结局只有一个

面包夹知识
2026-07-21 14:54:43
“这才是政审的意义!”女子考公上岸后,被高中欺负过的同学举报

“这才是政审的意义!”女子考公上岸后,被高中欺负过的同学举报

妍妍教育日记
2026-07-17 08:25:14
美媒:前CBA外援泰-劳森因在商店偷伏特加被捕

美媒:前CBA外援泰-劳森因在商店偷伏特加被捕

懂球帝
2026-07-23 10:44:27
1936 孙铭九率部华清池捉蒋,建国后上级为其安排工作

1936 孙铭九率部华清池捉蒋,建国后上级为其安排工作

磊子讲史
2026-01-26 10:55:00
根深蒂固的撕裂!格鲁吉亚民意彻底对立,俄语族群成永远乱源

根深蒂固的撕裂!格鲁吉亚民意彻底对立,俄语族群成永远乱源

老马拉车莫少装
2026-07-21 16:57:24
中美舰船在台海发生近距离对峙,我方喊话要求美船马上离开!

中美舰船在台海发生近距离对峙,我方喊话要求美船马上离开!

阿龙聊军事
2026-07-23 10:30:19
31岁护士长主动嫁给我,新婚当晚,她提了三个要求,我顿时明白

31岁护士长主动嫁给我,新婚当晚,她提了三个要求,我顿时明白

农村情感故事
2026-07-23 06:58:17
曾琦医生7月号源,瞬间抢空!至7月30日专家号已全部约满,评论区炸锅

曾琦医生7月号源,瞬间抢空!至7月30日专家号已全部约满,评论区炸锅

火山詩话
2026-07-22 14:32:28
1岁男童溺亡遗体找到!目击者发声,妈妈崩溃下跪,外公给一耳光

1岁男童溺亡遗体找到!目击者发声,妈妈崩溃下跪,外公给一耳光

勇敢的人享受生活
2026-07-22 06:30:44
中国不接盘了,全球都在收割日本,东京转头却让民众买单?

中国不接盘了,全球都在收割日本,东京转头却让民众买单?

户外钓鱼哥阿旱
2026-07-23 11:07:54
白宫对英国任命新外交大臣感到担忧

白宫对英国任命新外交大臣感到担忧

参考消息
2026-07-22 13:53:37
中印外长一见面,印度就开口要钱?千亿巨账难平,这忙中国帮不了

中印外长一见面,印度就开口要钱?千亿巨账难平,这忙中国帮不了

无情有思ss
2026-07-23 12:15:38
2026-07-23 15:39:00
光锥智能 incentive-icons
光锥智能
来这里,看千行百业的数字化、智能化。
1048文章数 140关注度
往期回顾 全部

科技要闻

梁文锋:DeepSeek不争超级App,只押注AGI

头条要闻

一家三口花2.5万从广州打车3000公里到西藏 司机回应

头条要闻

一家三口花2.5万从广州打车3000公里到西藏 司机回应

体育要闻

勇士24岁的MVP,也是个勒布朗?

娱乐要闻

冉莹颖回应债务还清后是否会离婚

财经要闻

年内港股最大IPO,中际旭创估值重塑?

汽车要闻

动力狂 脾气稳 海豹08有点上头

态度原创

数码
手机
艺术
家居
军事航空

数码要闻

那个骗了全世界 Magic Leap,终于官方停止了AR头显的研发

手机要闻

谷歌Gemini跌出全球排名前十:上新旗舰3.5 Pro再度缺席

艺术要闻

223米!西安版“像素大楼”烂尾多年,现状怎样?

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

"镐山"之后美再威胁袭伊基础设施 伊朗:将以牙还牙

无障碍浏览 进入关怀版