对话潞晨科技创始人：国产芯片真正站稳脚跟，离不开软件生态协同建设

近日在世界人工智能大会期间，观察者网与潞晨科技创始人尤洋进行了深度对话，谈到了模型即服务（Model as a Service，Maas）、大模型训练和推理、国产算力适配等话题。

潞晨科技专注于AI基础设施领域（即AI Infra），尤洋是清华大学硕士，加州伯克利大学博士，师从该校电子与计算机学院院长James Demmel院士，现为新加坡国立大学计算机系的校长青年教授 (Presidential Young Professor)。

以下是对话原文：

1. 前段时间有消息说，字节的MaaS收入目标上调到150亿，是去年的10倍。这是不是印证了你之前说的中小服务商不要做MaaS？

答：我觉得它印证的不是“MaaS不能做”，而是没有差异化的MaaS不能做。

目前市场流传的150亿元目标，并不是字节正式公布的财务数据，而是媒体根据知情人士信息作出的报道。即便如此，字节Seedance带来的MaaS增长仍然说明了一件事：拥有顶尖模型、巨大流量、云基础设施、持续降本能力、商业化反馈的企业，才能通过规模效应形成正循环。

所以我过去的判断需要完整理解：中小企业不要做的，是把别人的模型接过来，套壳开源推理方案转成API接口，再依靠价差做通用MaaS，或者直接倒卖API。这样的业务没有壁垒，客户迁移成本还很低，最终一定会陷入价格战。

但中小企业仍然可以做三类事情：第一，围绕垂直场景提供真正能交付结果的模型服务；第二，解决企业私有化部署、异构算力和数据安全问题；第三，在训练和推理系统层面把成本降下来。

这几个方面也是潞晨在发力的方向。未来MaaS不是所有企业都不能做，而是不能只做“模型搬运工”。

2. 现在MaaS行业的真实利润率是多少？不同类型企业之间的差别大吗？

答：首先要区分毛利率和净利润率。行业里经常说某个模型毛利率很高，但训练费用、研发人员、获客、补贴和基础设施投入往往没有完全计入单次推理成本。

不同企业和业务类型之间的差异非常大。以近期部分企业的招股书披露的数据为例，本地化部署业务毛利率约为可能还不错，但云端部署业务毛利率约为可能是负的或者巨亏。这说明即使是同一家公司，私有化部署和公有云MaaS也可能呈现完全不同的经济模型。

从我们的行业观察看，可以大致分为几种情况：

领先且稀缺的模型，在利用率较高、定价权较强的情况下，推理侧的毛利率有机会达到可观数字，26年的市场相比25年的也更加理性；通用开源模型的MAAS如果技术优化水平不够又参与价格战，毛利率可能较低，甚至阶段性为负；企业私有化部署表面毛利率通常较高，但需要承担交付、适配和售后成本；单纯转售模型API的服务商利润和壁垒低。

因此，MaaS的关键不是卷价格，而是模型创造的客户价值、硬件实际利用率、工程优化能力，以及一次研发能够被多少客户复用。

3. 字节MaaS收入的很大一部分来自Seedance 2.0，怎么评价这个模式？对你们的Open-Sora有什么影响？你们会去训练更大参数的视频模型吗？

答：Seedance证明了一种非常有价值的商业模式：模型不是单纯卖Token，而是进入真实生产流程，替代原来昂贵、缓慢的内容生产环节。

Seedance 的模式本质是 “自研模型 + 内部场景验证 + MaaS 商业化变现 + 用户商业化” 的闭环，是非常典型的大厂打法。字节有海量视频数据做训练素材，有 C 端产品做效果验证，最后通过 MaaS 把视频生成能力标准化输出，调用者也可以有较好的商业化，所以回报模型厂商就不必按照算力成本加成定价，而可以按照为客户创造的价值定价。

Open-Sora是我们阶段性的工作，因为当时市面还没有很好的可用模型，这个项目验证了我们在训练推理算法等方面的全流程能力，当时也在这个细分赛道做到了开源指标世界第一等成绩。后续我们会继续发挥潞晨在模型后训练和性能优化方面的优势，做好产品和企业服务。

4. 最近豆包开始收费，但是政策对C端agent产品的监管也在加强，怎么看待C端付费在中国的前景？

答：C端付费是必然趋势，但会是稳步渗透的过程，不会出现爆发式增长。

豆包收费的核心意义，是验证了 “工具属性的 AI 产品有付费价值”。纯聊天的 C 端产品付费意愿很低，但当 AI 能真正切入办公、学习、创作的具体流程，帮用户省时间、提效率，用户是愿意付费的。中国用户对价格敏感，但对价值的判断也很直接 —— 能不能解决真实问题，是付费转化的核心阈值。

监管加强是行业规范化的必经之路，长期是利好。C 端 Agent 直接接触海量用户数据和内容，没有明确的监管边界，反而容易出现风险事件，打击用户整体信任。合规边界清晰后，合规企业才能放心投入产品迭代，用户也才能更安心地使用和付费。

对潞晨而言，我们不直接做 C 端产品，定位是底层的模型与算力基础设施的企业服务商。C 端付费市场越成熟，上层应用厂商对底层模型效率、部署成本的需求就越强，这对我们是正向拉动。

5. 现在资本市场给大模型B端部署的定价很高，智谱站上万亿市值，为什么过去不被看好的B端部署，在大模型时代翻身了？

答：核心原因是：此 B 端部署，非彼 B 端部署。

过去传统 AI 的 B 端部署，是项目制、定制化的 —— 每个客户的需求都不一样，从算法到部署全要定制开发，边际成本几乎不下降，本质是人力密集型的外包生意，规模化很难，所以资本市场不看好。

大模型时代的 B 端部署，逻辑完全变了：

• 标准化底座 + 轻量定制，边际成本骤降。通用大模型基座是统一的，企业只需要做数据微调、知识库对接、Agent 插件开发，几周就能落地一个项目，可复制性比传统 AI 高了一个数量级。

• 价值深度完全不同。传统 AI 是单点工具，解决单个环节的问题；大模型是通用智能底座，可以渗透到企业研发、生产、客服、管理的全流程，客单价和客户付费意愿都上了一个台阶。

• 国产化刚需的加持。政务、金融、能源等关键行业对数据安全、自主可控的要求极高，私有化部署是刚性需求，市场空间远大于传统业务。

智谱的市值，本质是资本市场对 “通用大模型底座 + B 端规模化落地” 这条路径的认可，不是对传统项目制部署的重估。

6. 同样是做企业部署，潞晨跟智谱这样的大模型公司有什么区别？

答：智谱这样的公司核心是研发和商业化自己的基础模型，可以理解为提供AI的“大脑”。

潞晨更关注的是模型下面的计算系统，可以理解为提供训练和运行这些大脑的“操作系统”和“发动机”。

我们并不要求客户只能使用某一个模型。客户可以使用开源模型、自研模型或者其他商业模型。我们解决的是如何让这些模型在不同芯片、不同集群和不同企业环境中更高效地训练、微调和推理。

例如，潞晨Colossal-AI覆盖训练微调推理应用等全流程的性能优化能力，目标是降低大模型开发和部署对特定硬件、特定模型以及少数系统专家的依赖。

因此，我们和模型公司不完全是替代关系，更多时候是合作关系。模型公司决定智能能力的上限，系统公司决定这种能力能否以合理成本运行起来。

7. 大模型训练和推理层面的算力加速空间还有多大？

答：空间依然很大，但未来的加速不会只靠硬件工艺升级，而是算法、系统、硬件协同优化的红利。

训练侧，比如当前大规模集群的分布式训练中，通信开销占比很高，调度策略、并行策略还有很大优化空间；内存方面，HBM 全球产能紧张，通过优化器、显存复用、低精度训练等算法手段，可以在同等硬件下支撑更大规模的模型训练。

推理则是比训练更简单一些的场景。除了量化、KV 缓存、动态批处理这些基础手段，更深层的架构级优化 —— 比如稀疏化激活、专家路由动态调度、场景化算力分配等也还有提升空间。

而在国产算力平台上，因为生态和优化还不成熟，提升空间会更大。

8. 如今国产芯片混用的情况给算力加速带来了什么机会和挑战？你们针对国产芯片做了什么优化吗？

答：机会和挑战都很突出。

机会层面： 第一，单一芯片供给无法满足国内算力缺口，混合部署是刚需，市场迫切需要一套统一的软件层，屏蔽底层硬件差异，实现统一调度、统一运维，这正是我们这类基础设施厂商的核心机会。 第二，国产硬件正处于快速迭代期，硬件本身的性能潜力远没有被释放，软件优化的边际收益极高。通过全栈优化把国产芯片的实际性能提上来，帮客户用国产算力完成业务落地，这个市场价值非常大。 第三，信创政策驱动下，关键行业的国产化替代从硬件延伸到算力 + 模型全栈，适配优化的需求正在爆发。

挑战层面： 一是硬件架构不统一，没有统一的生态标准，每款芯片都要做深度适配，研发成本高、周期长。 二是混合部署的调度复杂度指数级上升，算力异构、通信差异很容易出现短板效应，导致集群整体利用率上不去。 三是算子生态不完善，很多先进的训练推理算法无法直接复用，需要针对性重写和适配。

针对国产芯片，潞晨做了全链路的布局：

• 全栈深度适配：Colossal-AI 已经完成了对昇腾、沐曦、摩尔线程等主流国产芯片的适配，从底层算子到上层训练、推理框架全链路打通。

• 算法级补短板：推出Colossal-AI 系列优化技术，弥补国产芯片显存容量的相对不足；针对国产芯片的计算特性，定制化设计分布式并行策略，提升多机多卡的集群利用率。

• 统一硬件抽象层：搭建了跨平台的调度层，支持多品牌芯片混合部署，上层用户通过统一接口调用，系统自动分配最优算力资源，不用感知底层硬件差异。

9. 怎么看待国产芯片的路径选择？类CUDA架构和ASIC谁更适合中国？

答：这不是一个二选一的问题。

类 CUDA 的通用计算架构，优势是生态兼容性好、开发者门槛低，能快速承接现有 AI 应用，解决当下 “有没有、用得上” 的问题。短期内大模型仍然在快速迭代，因此中国首先需要的是具有较强通用性和可编程能力的计算平台。所谓“类CUDA”，关键不是照搬CUDA的指令集，而是建立成熟的编程模型、编译器、算子库、通信库、调试工具和开发者生态。没有这些软件能力，芯片的理论峰值再高也很难被充分使用。

ASIC适合计算模式稳定、调用规模巨大、对成本和能耗高度敏感的推理场景。例如推荐、语音、视觉或者已经稳定的大模型推理，都可能通过专用设计获得更好的能效。或者在大模型的计算模式进一步收敛后，针对训练、推理、视频生成等特定场景设计的专用芯片，能效比会远高于通用 GPU，成本优势会越来越明显。

但如果模型每几个月就发生变化，过早固定为ASIC，可能会失去灵活性。因此当前更现实的路线是：训练和前沿模型研发以通用、可编程的架构为主；成熟且规模巨大的推理负载逐步使用ASIC；中间通过统一的软件系统屏蔽不同硬件的差异。

对潞晨来说，两条路线我们都会深度适配。硬件的竞争最终是生态的竞争，国产芯片要真正站稳脚跟，离不开底层软件生态的协同建设。我们会持续做硬件和模型之间的 “粘合剂”，帮不同路线的国产芯片把性能充分释放出来。

本文系观察者网独家稿件，未经授权，不得转载。