网易首页 > 网易号 > 正文 申请入驻

vLLM团队官宣创业:融资1.5亿美元,清华特奖游凯超成为联创

0
分享至



编辑|泽南

大模型推理的基石 vLLM,现在成为创业公司了。

北京时间周五凌晨传来消息,由开源软件 vLLM 的创建者创立的人工智能初创公司 Inferact 正式成立,其在种子轮融资中筹集了 1.5 亿美元(约合 10 亿元人民币),公司估值达到 8 亿美元。



本轮融资由风险投资公司 Andreessen Horowitz(a16z)和 Lightspeed 领投,Sequoia Capital、Altimeter Capital、Redpoint Ventures 和 ZhenFund 也参与了投资。

Inferact 的 1.5 亿美元天使轮融资虽不及 Ilya Sutskever 的公司 SSI 的 10 亿美元,但已经超过了 Mistral AI 的 1.15 亿美元,是有史以来规模最大的种子轮融资之一,标志着业界对于 AI 推理基础设施的重视程度正在急速提升。

Inferact 的使命是将 vLLM 发展成为世界领先的 AI 推理引擎,并通过降低推理成本、加快推理速度来加速 AI 的发展。

该公司认为,AI 行业未来面临的最大挑战不是构建新模型,而是如何以低成本、高可靠性地运行现有模型。

毫无疑问,Inferact 的核心是开源项目 vLLM,这是一个于 2023 年启动的开源项目,旨在帮助企业在数据中心硬件上高效运行 AI 模型。



vLLM 最初由加州大学伯克利分校(UC Berkeley)的天空计算实验室 (Sky Computing Lab) 开发,现由 PyTorch 基金会负责管理,已吸引了来自整个 AI 行业的 2000 多名贡献者,是全球范围内最受欢迎的开源大模型推理加速框架。

如今,vLLM 的推理能力在为 Meta、谷歌、Character.AI 等科技公司提供支持。

Inferact 的首席执行官 Simon Mo 是一位伯克利在读博士生,他是 vLLM 的创始维护者之一。Mo 表示,公司成立于 2025 年 11 月,并于本周正式对外公布。他将 Inferact 的起源与伯克利早期的一些软件项目进行了比较,这些项目后来发展成为规模更大的企业,例如 Apache Spark 和 Ray。



在宣布融资的同时,Lightspeed(光速创投)也发布了对 Simon Mo 的访谈。在其中 Simon Mo 谈到了对于全球 AI 算力紧缺的担忧,「当前用于大模型训练的 AI 集群,将在六个月内完全被用于推理…… 推理会逐渐消耗掉所有算力容量,并耗尽所有新增的容量。」



在公告中,Inferact 表示,其定位于模型和硬件的交汇点:当模型厂商发布新架构时,他们会与 vLLM 合作,确保提供首日支持;当硬件厂商开发新芯片时,他们会与 vLLM 集成;当大模型团队进行大规模部署时,他们会运行 vLLM,从前沿实验室到超大规模数据中心,再到服务数百万用户的初创公司,无一例外。

如今,vLLM 支持了 500 多种模型架构,可在 200 多种加速器上运行,并支持着全球规模的推理。这个由 2000 多位贡献者共同构建的生态系统,是 Inferact 得以成立的基础。

Inferact 表示,其首要任务是继续支持 vLLM 作为独立的开源项目,并将改进成果分享给社区。他们计划进一步提升 vLLM 的性能,深化对新兴模型架构的支持,并扩大对前沿硬件的覆盖范围。Inferact 的第二个目标是开发一款独立的商业产品,帮助企业在不同类型的硬件上更高效地运行 AI 模型。

值得关注的是,vLLM 项目的核心贡献者清华博士游凯超成为了这家公司的联合创始人。



据介绍,Inferact 的创始团队包括 Simon Mo、Woosuk Kwon、Kaichao You(游凯超)、Roger Wang、Joseph Gonzalez、Ion Stoica 等人。

https://inferact.ai/

https://www.bloomberg.com/news/articles/2026-01-22/andreessen-backed-inferact-raises-150-million-in-seed-round

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
东航昨夜一北京飞上海航班,落地后舱内现火情,官方通报:系旅客手机掉落座椅缝隙受挤压冒烟

东航昨夜一北京飞上海航班,落地后舱内现火情,官方通报:系旅客手机掉落座椅缝隙受挤压冒烟

纵相新闻
2026-03-26 01:52:05
20分惨败!CBA焦点1战,山东大破新疆男篮,巩晓彬苦笑:都输麻了

20分惨败!CBA焦点1战,山东大破新疆男篮,巩晓彬苦笑:都输麻了

话体坛
2026-03-25 22:16:29
中国第三任国家主席,墓碑上不留姓名,碑文仅有二十四个字!

中国第三任国家主席,墓碑上不留姓名,碑文仅有二十四个字!

年代回忆
2026-03-24 20:23:00
孤胆英雄:NBA历史上那些“单核”带队的终极神话

孤胆英雄:NBA历史上那些“单核”带队的终极神话

茅塞盾开本尊
2026-03-26 13:05:20
女儿高考当天,我撞见婆婆往她汤里下药,我偷偷换给了高考的侄子

女儿高考当天,我撞见婆婆往她汤里下药,我偷偷换给了高考的侄子

鱼语昱雨轩
2026-03-25 14:03:47
泰国U23主帅:中国队是支很强劲的队伍,这场比赛对我们有益

泰国U23主帅:中国队是支很强劲的队伍,这场比赛对我们有益

懂球帝
2026-03-26 10:30:13
太突然!董事长汤建,因心梗意外去世

太突然!董事长汤建,因心梗意外去世

每日经济新闻
2026-03-25 18:21:26
余承东宣布华为手机全面回归!大方公布CPU型号 支持5A网络 麒麟处理器全国产突破美国制裁

余承东宣布华为手机全面回归!大方公布CPU型号 支持5A网络 麒麟处理器全国产突破美国制裁

快科技
2026-03-24 15:22:21
连续三天,重庆市委书记袁家军围绕这件事调研

连续三天,重庆市委书记袁家军围绕这件事调研

中国乡村振兴
2026-03-26 10:02:48
杜锋发布会发飙,反问记者,球迷为陈家政担心:你可以离开球队了

杜锋发布会发飙,反问记者,球迷为陈家政担心:你可以离开球队了

南海浪花
2026-03-26 00:26:05
曝马英九完全不见他!萧旭岑:很多事长辈忘了、质疑能怎么办?

曝马英九完全不见他!萧旭岑:很多事长辈忘了、质疑能怎么办?

新时光点滴
2026-03-25 11:32:56
果然越不体面小生意往往闷声发大财!网友:一年不低于50万

果然越不体面小生意往往闷声发大财!网友:一年不低于50万

夜深爱杂谈
2026-03-23 20:05:31
杨瀚森9投9中+单手隔扣 20分9板5助触底反弹

杨瀚森9投9中+单手隔扣 20分9板5助触底反弹

体坛周报
2026-03-26 11:17:12
11场10球!皇马新帅有点神:伯纳乌迎回熊皇!贝林厄姆:逆境重生

11场10球!皇马新帅有点神:伯纳乌迎回熊皇!贝林厄姆:逆境重生

万花筒体育球球
2026-03-25 17:39:15
向“新” 向“智” 向“绿”——重大工程项目一线观察

向“新” 向“智” 向“绿”——重大工程项目一线观察

新华社
2026-03-25 16:08:21
我爱上41岁女人,她开口:玩玩可以但不结婚,得知真相我瘫坐在地

我爱上41岁女人,她开口:玩玩可以但不结婚,得知真相我瘫坐在地

小月故事
2026-03-19 17:08:37
张雪峰生前忠告:普通学生不要碰的20个专业,大家千万别忘记!

张雪峰生前忠告:普通学生不要碰的20个专业,大家千万别忘记!

教育导向分享
2026-03-25 22:28:37
73年工人运动现分歧,巴枯宁质问马克思:无产阶级掌权后将统治谁

73年工人运动现分歧,巴枯宁质问马克思:无产阶级掌权后将统治谁

磊子讲史
2026-03-25 12:21:48
闯祸的最高境界是什么?看网友讲述,这是正常人能做出的事情吗?

闯祸的最高境界是什么?看网友讲述,这是正常人能做出的事情吗?

侃神评故事
2026-03-21 19:15:03
末代港督彭定康夫妇,带3个漂亮女儿回英国,29年过去今过得咋样

末代港督彭定康夫妇,带3个漂亮女儿回英国,29年过去今过得咋样

揽星河的笔记
2026-03-26 00:26:09
2026-03-26 13:28:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
12601文章数 142593关注度
往期回顾 全部

财经要闻

黄仁勋:芯片公司的时代已经结束了

头条要闻

伊朗议长和外长暂被移出美以清除名单 时限4到5天

头条要闻

伊朗议长和外长暂被移出美以清除名单 时限4到5天

体育要闻

35岁替补门将,凭什么入选英格兰队?

娱乐要闻

张雪峰家人首发声 不设追思会丧事从简

科技要闻

Meta高管狂分百亿期权,700名员工却下岗

汽车要闻

一汽奥迪A6L e-tron开启预售 CLTC最大续航815km

态度原创

亲子
游戏
教育
房产
军事航空

亲子要闻

躺平的孩子意外觉醒了,在父母学会当“乌龟”!

任天堂澄清Switch2游戏定价策略:实体版不会涨价

教育要闻

太管用了!高考俄语二轮复习听力模块得分要点!

房产要闻

质价比标杆!三亚首创浮岛全景舱亮相,还得是万科!

军事要闻

伊朗重申非交战国家船只可安全通过霍尔木兹海峡

无障碍浏览 进入关怀版