炜烨智算VP孟健雄：推理算力需求12个月内或反超训练，只等爆款应用落地 | 智算想象力十人谈

作者 | 赵之齐

编辑 | 胡敏

“5-10年内，算力行业可能从当前的动态平衡，逐步转向长期的卖方市场。”

当基模创业公司放缓训练脚步、数据中心退租现象频发，外界纷纷唱衰智算市场，商汤旗下负责智算业务的子公司炜烨智算的商务副总裁孟健雄，却有此信心。

这份信心，源于他在智算领域的经验与积累。2022年，孟健雄就加入算力领域知名公司、彼时算力板块的“领头羊”英博数科团队，与团队共同打造了当时中国最大的单体成建制高性能GPU集群。当时，他们把英伟达DGX A100 SuperPOD集群引入中国落地，后来也成为英伟达在中国唯一的AI创新赋能中心。“可以说，我们是智算行业的拓荒者”，他如此定位这段经历。

而后，孟健雄和核心团队离开英博数科，创立炜烨智算。公司聚焦智算中心全生命周期管理，业务覆盖从前期规划、基础设施建设、供应链整合，到后期运维运营及资本退出的完整链路，定位为新质生产力资产管理平台。

与此同时，商汤科技在AI全链路技术领域的深厚积累，尤其是其大装置平台软件的核心能力，吸引了团队的关注。双方达成合作，炜烨智算引入商汤科技的天使轮投资，此后正式成为商汤科技智算业务板块的核心载体，对接头部KA客户，成为商汤智算业务布局中的 “特种部队”。

也因此，在大家普遍感受到智算市场的消纳降温、利润下滑时，处于大厂阵营内的炜烨智算，仍能保持相对可观的毛利率水平。

不过，孟健雄也看到了行业的消纳痛点。在他看来，此前算力需求很多源于基础大模型的训练，但当前的核心瓶颈是LLM（大语言模型）撞到了数据的天花板，基模训练短期内难以提供算力增量；可是，新的潜在消纳动能也已在酝酿：后续多模态对显存和算力的需求很大，一旦能突破训练数据匮乏的困境，将引发远超 “2022-2023年全球算力荒” 的需求爆发。

在尚未走出消纳困局的此刻，行业内卷仍在加剧。孟健雄直接地点出国内GPU市场的成本困境：“国内市场是用全球最高的价格买GPU，再用全球最低的价格把它们租出去。”

他观察到，比起物理属性，GPU此刻更像是一种金融资产，其价格是被Scaling Law这个宏大叙事撑起来的，当下GPU的价格其实是人们对AI未来发展的净现值的预测。尽管一系列政策以及GPU服务器二手市场也已逐渐兴起，为改善这种“高买低卖”的情况提供了可能，但具体效果还需要时间进行检验。

然而，在智算行业面对消纳滞涨的同时，算力相关厂商却在二级市场迎来暖春——近来，协创数据、云天励飞、锐捷网络等多支算力概念股迎来大涨。孟健雄也指出，英伟达过去十几年最大的技术突破发生在2012-2022年里，市值上升10倍却发生在最近30个月里。对金融属性非常敏感的他，认为未来第三方AIDC厂商，除了和大客户捆绑、定制化成长外，也要借助金融工具谋求出路，才能在大厂、运营商称霸的算力市场里有一席之地。

在“AI一天、人间一年”的当下，孟健雄对算力行业的未来有何预判？推理算力需求什么时候会迎来爆发？未来端侧与数据中心之间会呈现出什么形态？第三方AIDC厂商的出路又在哪里？以下是雷峰网与孟健雄的对话。为了方便理解，对话内容经编辑。

Agent算力需求何时爆发？乐观估计6-12个月内

雷峰网：在DeepSeek出圈后，许多基模创业公司似乎也放慢了训练的脚步，数据中心退租现象明显，这是否意味着未来数据中心市场需求会下降？在你看来，训练带来的算力需求未来增长潜力预计如何？

孟健雄：我认为，未来人们对算力的需求会有机会变成“无底洞”。

为什么这么说？一方面，现在LLM撞到数据的天花板了，基模的训练在短期内提供不了什么算力需求增量；但在改善推理性能方面，后训练部分还会带来一段时间的算力需求。

但另一方面，多模态对显存和算力的需求比LLM更大，只是多模态领域还没有遇到一个Transformer之于LLM那样的加速器，尤其是具身智能方向，现在可以说是有算法、有算力但没数据，一旦解决训练数据的匮乏，对算力的需求会比2022年底到2023年那段时间的“全球算力荒”更甚。

雷峰网：除了训练这一核心需求外，当下AI推理的需求也持续攀升，目前已经带来哪些具体的改变？

孟健雄：推理算力占比的暴涨，一是让大模型本身by token API的生产力已经广泛商业化了，并且，Agent、DeepResearch这种极度吃推理算力的模型产品形态，也找到了PMF，有用户喜欢、也能收费，后面用量的继续加速爬坡是个确定的事情。

雷峰网：推理端用量加速爬坡，预计什么时候占比会比训练端更大？

孟健雄：这主要取决于爆款应用什么时候出来。目前看起来，Agent是最有希望的方向，最接近消费、对算力消耗也很大，行业里比较乐观的估计是6-12个月内。大厂们前段时间以来已经开始增加推理算力配置，其实也是对这种预估的一种验证。

回顾起来距离我们最近的一场推理算力需求的爆发是挖矿，挖矿的尽头是专用集成电路ASIC，现在AI应用还没有在这一方向上大量占领市场，只是因为推理需求的特征还没收敛。

雷峰网：有说法说，未来边缘端数据会占整个社会总量数据的80%，在你看来，边缘计算的崛起是否会影响智算中心发展的可持续性？

孟健雄：很好的问题。中长期来看，边缘数据的采集效率及采集量、和边缘推理计算的算力总量，注定会有一个爆发期，但这对中心化的数据中心来说，其实是synergy（协同发展）关系，而不是零和关系。

雷峰网：怎么理解两者间的协同？

孟健雄：拿具身智能举例，每台机器人、每辆电动车、每架无人机，都在不停采集多模态数据、在端侧进行实时计算，但如果工作在端侧就结束了，那端侧就依旧是孤岛。

这些端侧个体采集到的数据和反馈，海量、多样、且结构化，只有集中到中心化的数据中心或智算中心分析和训练计算，才能发挥价值。并且，也只有这些中心化的场所，能更低成本高效率地完成这种量级工作。

所以，一句话总结，端侧的发展实际上会为数据中心带来需求的增量，而不是反过来影响其发展。

雷峰网：最终两者间会呈现出什么样的状态，行业又应该对此做些什么准备？

孟健雄：大家常听到的观点是：日后边缘计算与中心化计算的协同模式，是“边缘计算+分布式数据中心”，但我们认为，最终整个计算业态，还是会收敛到“少数超大型中心化数据中心+与之高速互联的边缘节点”模式。

数据上说，小型边缘节点PUE（能源使用效率）是2.0左右，远高于集约化数据中心的PUE 1.2-1.5，所以只有“超大型中心化+互联边缘”这种架构，才能使得整个体系的成本最低、效率最高。在这种趋势下，能源与通信成本就是底层竞争力，从这个角度讲，我非常看好中国。

雷峰网：那整体来说，除了推理算力占比的提升，未来AIDC行业还会面临什么新的挑战，AIDC厂商需要如何应对？

孟健雄：可以从几类不同的主体来看。对于大厂来说，平台化的商务模式韧性很高，主要还是满足整体市场内的共性需求，捆绑自身能力销售。运营商这类主体，相对以追求资产价值为主，商务能力较强但创新能力存在一定提升空间。

而对于第三方AIDC厂商，尽头是跟大客户捆绑、定制化成长，也能因此最终走上自己独特的技术路线，这个类别也会是金融工具使用最为频繁的——因为大厂、运营商自身的资金成本低，或者本身自有资金就很丰富，所以其它AIDC厂商可能就要借助资金杠杆上突破创新，才能与前两者对齐。

但总的来说，接下来的算力市场，最底层共性还是要提升经营效率、算力效率和能源效率，等达到效率优化的边际以后，资本热点其实也就向生态上层转移了。到时候，焦点会更多集中在数据、算法上的突破，和这些突破带来的应用层的价值，这一层最有想象空间。

雷峰网：在未来资本市场焦点发生转移前，当下资本市场的关注焦点，主要还放在什么层面?

孟健雄：先从最简单的说，根据我们观察，如果是纯算力建设的项目，性质更倾向于类债项目，就是风险和收益上与传统债券有相似性的投资项目或资产。这部分投资者主要是看硬件软件的先进性和财务表现，包括最重要的项目财务健康度和投资回报周期等。2023年、2024年一部分以市值管理为目的的投资者，也是用这个逻辑。

基于长期主义的投资者，考量角度就比较复杂了。算力是AI应用的基础，中长期主义投资者会更关注未来上层的价值产出，智算项目的规模、算力效率、技术架构乃至整个智算平台生态的价值都是考量因素，属于更偏向成长型权益类投资。

雷峰网：那现在的算力市场，大家对智算项目的期待和考量，整体会比以前更理性了吗？

孟健雄：是的，踩过很多市场乱象的坑后，现在大家会更关注项目穿透到最后是谁。不过市场上仍有时间差的，部分投资者还是2023年、2024年的思想状态，这跟大家入场时间点不同有很大关系。

“5-10年内，算力行业可能转向卖方市场”

雷峰网：你在2022年左右就加入英博数科团队，可以说是很早一批踩过算力市场坑的人，在你看来，现在这些乱象问题背后的症结是什么？

孟健雄：现在的市场乱象，比如包销、消纳协议违约等，是因为大家“不这么做就算不过来账”，但说到底就是成本太高、售价太低。

先说成本问题。其实GPU的价格是被Scaling Law这个宏大叙事撑起来的，英伟达这家公司在过去十几年最大的技术突破发生在2012-2022年里，但市值上升10倍却发生在最近30个月里，所以当下GPU的价格，其实是人们对AI未来发展的净现值的预测，这种定价思维偏离了成本考量的定价逻辑，把GPU物理产品变成了一种金融属性的资产。

接下来是算力售价问题。国内市场是用全球最高的价格买GPU、再用全球最低的价格把它们租出去。中国的算力供需市场除了电力成本比美国低，其它都比美国高，所以你看，美国人在喊智算的尽头是能源，我们在发展国产可控自主。

雷峰网：怎么理解GPU变成一种金融属性的资产呢？

孟健雄：举个例子，你买一台用来做土建工程挖沟的挖掘机，你就会关注这机器贵不贵、扛不扛风吹日晒；但如果你买的是可以挖金矿的挖掘机，是不是就不会对它的价格太敏感了？而且大家都想挖金矿，就算你不买，也有别人买，价格自然就高上去了。

雷峰网：所以说，因为GPU是AI这类“高收益项目” 的基础，它的价格就不再只是由硬件成本决定，而是像金融资产一样，价格会随收益预期和稀缺性而波动。

孟健雄：是的。正好借此说回刚才提到的两个问题症结，成本高这块我们解决不了，产业链不在我们手里，所以能让大家发挥点主观能动性的，就是售价这一块——这也是更根本的地方。

投资方怕售价低、本儿收不回来，就会要求建设方运营方包销兜底。而在售价低的情况下，运营方或消纳方要想兑现协议，只能从各个方面努力争取降低消纳压力，最直观的就是能源补贴和算力券等方法。如果这些方法也争取不到，违约退租就是消纳方最后的止损方法。

雷峰网：智算中心售价低，却反而可能导致违约退租的情况出现，如何理解这种看似矛盾的市场状态呢？

孟健雄：现在的GPU租赁市场上，我们常听到两种相互矛盾的声音：一种是“算力设备闲置、价格内卷”，一种是“客户在市场上找不到合适的算力、大厂们都忙着在全国收算力”，这两种情况都真实存在。

但“设备闲置、价格内卷”更具体点讲，是“零散、异构的算力匹配不到合适的客户，而被迫闲置”。这有两种可能，一是集群性能达不到专业客户的要求；二是好不容易找到了要求一般的客户、但用不了几个月他们训练工作就结束了，与此同时，新的用户还没找到，这些智算中心因为在空档期就被迫降价倾销。

而与之对应的“算力稀缺”情况，则是客户们需要稳定存储、网络和平台软件配套齐全的成建制集群。能达到这种水平的目前基本只有大厂，但大厂们自己也要用，高质量资源售罄的情况下，想找到合格可用的算力也很难。

雷峰网：性能和技术门槛，确实也是行业内反复提到的导致现在算力“结构性过剩”的一个关键核心。但在你看来大家成建制集群跟不上大厂的原因是什么，真的是自身研发能力不够吗？

孟健雄：导致各地智算中心追不上大厂水平的原因，本质还是在于这些项目是资本驱动的。

资本更看中他们懂的那部分：不动产、大机电、GPU等这些资产管理的东西，但智算中心能收多少租金，最终靠的是交付质量。从资产到算力交付，中间隔着巨大的技术水平鸿沟。但现在市场上没有那么多大厂供资本选择，所以很多资本退而求其次，以最低配置跑步入场。

并且，一个智算项目同时还可能需要满足太多其它目标，最终就形成了设备闲置、价格内卷的现象。

雷峰网：现在也已经有一系列政策对这种现象进行干预，在你看来，这种情况有在好转吗？

孟健雄：长期看好，但可能短期内不会改善。虽然国家出台了相应窗口文件，但其影响还需要一段时间来沉淀出结果。民间也有逐渐兴起GPU服务器二手市场，也能对这种情况有改善，但具体改善多少，有待时间验证。

雷峰网：结构性过剩毕竟也是一种“过剩”，这意味着现在智算市场可能对大多数厂商来说，已经饱和了吗？

孟健雄：市场是有周期性的。具身智能（包括自动驾驶）的iPhone时刻已经到来，关键在于核心技术突破在什么时候发生，比如AI生成多模态训练数据的能力、电机和电池的革新。小周期应该是从当前供大于求，向供需平衡、直至供小于求发展。

雷峰网：这个周期预计会多久？

孟健雄：我认为未来5-10年内，算力市场会呈现出一个向长期卖方市场变化的趋势。

炜烨与商汤“联姻”背后：获取技术与KA客户资源的双赢

雷峰网：目前算力市场很多厂商是在贴着成本价去做，那么成立至今只有一年多的炜烨智算，利润如何？

孟健雄：炜烨智算作为商汤科技智算业务板块的载体，处于智算大厂阵营，天然有些技术优势和规模成本优势，这部分溢价让炜烨智算的毛利率水平能保持在行业高位。

历史上，百团大战最后就剩下美团和饿了么，百模大战迅速就只剩下头部几个基模，未来智算行业大概率也只会聚焦于经营效率最优化的头部玩家，发展慢就会被动下牌桌，这是客观发展规律。

雷峰网：但现在智算领域仍有许多创业公司存在。

孟健雄：创业公司要发展独特性，或说细分市场，如果没有差异化，就会败给效率更高的平台。大厂为了追求平台效率最高，会优先满足客户的共性需求，牺牲定制化。跟大厂竞争的事情交给运营商去做。

雷峰网：你们强调自己在做的是“智算中心的全生命周期管理”，这是否是你们的差异化？要做到这一点，主要困难会在哪里？

孟健雄：现在市面上许多玩家都只负责数据中心建设其中某个环节，但我们是从规划、建设、供应链、运维运营到资本退出，整个穿透。

我们团队从2022年底开始沉淀供应链、技术、项目建设与运营相关的资源，做这件事的主要难点就在于每个层级就都要有积累，不能为了一个项目临时攒局。

雷峰网：你们吸引到投资者，主要就是你们选择的这条路线吗？

孟健雄：还有我们的背景。炜烨智算创始团队在2022年，将英伟达DGX A100 SuperPOD集群引入中国落地的团队，做成了当时中国最大的单体成建制高性能GPU集群，是第一个做成这件事的人。后来我们成为英伟达在中国唯一的AI创新赋能中心，最早开始经营英伟达生态建设，我们认为自己是智算行业早期的拓荒者。

商汤科技也是看中了我们的背景，在炜烨智算团队独立创业后投资了我们，并把智算业务交给炜烨来做。

雷峰网：团队出来创业时，市场上投炜烨智算的人多吗？为什么选择了商汤呢？

孟健雄：当时我们还挺抢手的，也和其他资方包括大厂谈过，但最后选择了商汤，是因为商汤是非常技术驱动的公司，他们的技术加上炜烨智算自己的经验和商业化能力，是一个很好的合作契机，能让商汤的技术能力在市场中得到最大化的回报。

雷峰网：具体来说，商汤什么方面的技术对你们非常重要？

孟健雄：商汤在AI上的全链路技术全栈都有，但最贴近炜烨业务的是商汤大装置的平台软件能力。

目前市面上经历过长期生产环境检验、支持异构混训的这种真正能打的GPU云服务平台不多，商汤可以说是国内最早一批做异构的企业，从成立的第一天就开始。

异构混推本来就很难，混训对技术要求更高，因为混训后如果效率拉低就没有生产意义了。早先商汤没有那么多卡的时候，就只能“被迫”混训。在人工智能还没现在这么火的时候，他们已经开始做积累。

雷峰网：那商汤投资了炜烨智算后，是否会给炜烨提供客户入口，相当于会帮助解决消纳？

孟健雄：商汤自身的算力刚需很大，确实在必要时可以提供消纳方面的支持。不过更准确说，是炜烨为商汤提供更多样化的客户入口，尤其是顶级AI客户和头部行业客户。

雷峰网：不过你们和商汤自身大装置团队之间的客源如何区分呢？

孟健雄：商汤的大装置平台商务团队人多，集团化作战效率很高，炜烨相比起来团队规模小，但打的都是top级KA客户，单个客户ARPU值（每用户平均收入）极高，形象一点说是“特种部队”。

雷峰网：那么现在炜烨智算在算力上的布局情况和主要业务方向如何？整体出租率如何？

孟健雄：目前实控算力2.3万P，年底可达近 2.6万P，主要集中在商汤自营临港机房及各地纳管智算中心。现在主要是围绕国央企需求，选择与合适的地方政府合作整体智算项目。

我们的算力部署，主要在经济相对发达、基础设施完善的区域，出租率稳定在接近满租的状态。

雷峰网：那接下来发展策略是什么样的？

孟健雄：我们在为踩下一个引爆点做准备。目前来说，炜烨的策略已经从硬件层向软件和商务模式方向进化，例如利用商汤大装置平台软件的技术优势，实现训练by token计费的方法，在算力销售环节探索引入合规金融衍生品，相关尝试正在合规推进中。

专题介绍

2023 年来，智算产业迎来爆发式增长。但两年过去，国内智算企业的生存状态如何？在技术突破与场景落地中做了哪些新探索、又面临什么新挑战？智算行业的未来还有什么想象空间？本专题与一众智算领域的先锋从业者对话，回顾近年智算行业在技术与商业上的拓展实践历程，并展望未来发展方向。即便身处行业气候更迭之际，从业者们凭借智慧与韧性、怀揣对智算未来的坚信，开辟多样化发展路径。对此专题感兴趣的从业者，欢迎添加微信 Ericazhao23 共同参与讨论。