贾扬清离开英伟达再创业！GLM-5.2速度飙6.3倍，一句话造的推理引擎

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

加入英伟达一年后，贾扬清再创业。

新公司Intent Lab，第一批亮出来的成果有三：

目前已知最快的GLM 5.2推理引擎、一句话生成的数据库、一套带形式化验证的文件系统。

乍一看，有点懵。三个系统不搭边啊，定位呢？商业模式呢？这公司到底干啥的？

其实真正的产品是背后的生成引擎Fleet，号称“首个将意图转换为生产级软件的自主团队”。

三个成果，都是出自同一套智能体系统。

距离6月贾扬清从英伟达离职的消息传出，刚过去一个月。

贾扬清离开英伟达再创业

时间线倒回2023年3月，贾扬清从阿里巴巴离职，同年创立Lepton AI。

当时创业者大多扎进“百模大战”，他却选了AI Infra，用云原生加多云整合的方式调度全球GPU资源，给开发者提供算力租赁和模型部署。

创始团队里还有ONNX的联合创始人，可以说是开源老伙计再聚头。

到了2025年3月到4月，就是那笔著名的交易：

英伟达宣布并收购Lepton AI，交易金额约7亿美元，折合人民币约48亿。

英伟达买它是为了云业务，目标是在AWS和Google之上建自己的软件平台。被收购之后，Lepton AI更名为DGX Cloud Lepton，并入英伟达DGX Cloud体系。

然后……就没有然后了。

作为一家为开发者设计的轻量级、敏捷的初创公司，其产品理念“Python原生、开箱即用”等与英伟达面向大企业客户的、更为封闭的产品管理体系格格不入。

据报道，DGX Lepton在2025年中期已基本停止对外运营，这时候距离收购完成才过去几个月。

团队的资源被消耗在UI调整这类表层工作上，而多租户这样的核心技术问题一直没能解决，

这个产品很遗憾没能满足它原本瞄准的那批AI原生开发者。

更扎心的是开源方面。

收购时英伟达曾承诺在2026年前开源Lepton的核心软件平台，最终又被否决。

目前GitHub仓库上只有客户端SDK（Python 库）和命令行工具（CLI），后端调度引擎和云平台管理系统依然是封闭。

核心冲突在于Lepton的核心调度器一旦开源，竞争对手同样可以拿它高效管理非英伟达的 GPU，这与英伟达卖硬件的商业模式直接打架。

但贾扬清这个人大家都熟悉，整个职业生涯是建立在Caffe、PyTorch、ONNX这一串开源项目上的。

总之，最终还是好聚好散了。

中间还有一个插曲，6月初，Hyperbolic Labs聘请贾扬清出任公司顾问。这家公司的业务方向是云基础设施、GPU marketplace、多云编排和GPU利用率提升。

这几个词和Lepton AI最初的目标对比一下，几乎一个字都不用改。

大家还以为他只是换个地方重操旧业呢，结果只是一个支线。

下一步，做点不一样的：

我们把整个职业生涯花在了世界上最大的分布式系统和AI基础设施上，一直是精心的架构设计，一次做一个系统。
但现在更感兴趣的，是一次能产出一千个系统的系统。

首批交出三份作业

Intent Lab把它的产品叫Fleet，定位是“把意图变成生产级软件的自主团队”。

第一批公开的三个结果，官方口径是全部由Fleet端到端完成，没有人工介入。

重点看GLM-5.2推理引擎。

最初的“意图”只有一句话：重新改造TensorRT-LLM的代码，让GLM-5.2跑在Grace Blackwell节点上，自己识别可优化的类别，自己实现，自己验证。

TensorRT-LLM本身已经是被英伟达反复打磨过的项目，在这上面再抠性能，属于在牙膏皮上再挤牙膏。

结果Fleet交付了四类优化，在两台Grace Blackwell节点上，把输出速度从102 tokens/s推到647 tokens/s，提升整整6.3倍。

拆开看每一项都不是水分：

内核层面+24%，做法是kernel fusion加上由agent直接生成PTX和SASS，绕过编译器直接拿指令级控制。

运行时+16%，通过H2D batching把一个稳态decode步骤的host-to-device元数据拷贝从大约十次降到零。

通信层面+18%，用一个融合的MNNVL all-reduce，把residual add和RMSNorm折进集合通信里，每层省一次kernel launch和一整轮内存往返。

最后是投机解码的+400%，配合优化过的DSpark drafter，一步提出多个 token，一次性验证。

Fleet跑这套优化的流程像一整个开发团队：roofline分析、瓶颈识别，然后 propose、verify、compound，验证不过就打回重来，一轮结束再回去找下一个瓶颈。

第二份作业是数据库。起点也是是一行prompt。

零文档零代码，fleet自己一路跑到600万条SQLite兼容性测试全部通过为止，过程中自己扮演了架构、编码、测试、评审、QA所有角色。

第三份作业是文件系统，目标是“用基础设施的主体从人变成agent”。

文件系统的复杂度是出了名的，这个例子里fleet用形式化验证抓到了一个coding agent写出来的 bug，一个瞬态的损坏状态，然后修掉了。

模型能力不是限制，是中间缺一层

贾扬清对这件事的判断，写在他的官宣创业帖子里。

模型现在写代码已经很快了，但从“能跑起来的代码”到“你愿意放进生产、并且持有很多年的软件”，中间仍然隔着一段真实的距离。

他不认为这段距离是模型能力的限制，缺的是中间一层：

一个把模糊的意图变成真实的设计，检查结果是否站得住，以及在系统跑起来之后让它继续演进，并且全部自主完成。

Intent Lab 把这一层细化拆成了六个环节：

Understand，把模糊意图收敛成明确产出和验收标准；
Design，权衡取舍、定接口定结构；
Coordinate，拆任务、管依赖；
Build，阶段代码和架构同步演进；
Verify，贯穿全程，从形式化证明到运行时故障注入；
Evolve，在生产环境里观察表现，把使用情况和成本折回设计。

仔细看这六个词，就是一个靠谱工程团队的日常，只不过主语从人换成了智能体系统。

他还算了一笔经济账：

过去50年，合理的做法是造一个软件，卖给尽可能多的人，哪怕这些人的需求各不相同。

这件事现在可以变了，世界会出现多得多的软件，定制程度高得多。

目前Intent Lab计划与外部合作，专门面向那些“工程量太大、一直排在清单上没人力去做”的系统。

从Caffe、PyTorch，到Lepton AI，Intent Lab，贾扬清一直在做同一件事的不同版本：让别人更容易用上算力。

参考链接：
[1]
https://x.com/jiayq/status/2082135245776920681?s=20
[2]
https://intentlab.ai/blog/turn-your-intent-into-production-systems