网易首页 > 网易号 > 正文 申请入驻

vLLM团队官宣创业:融资1.5亿美元,清华特奖游凯超成为联创

0
分享至

编辑|泽南

大模型推理的基石 vLLM,现在成为创业公司了。

北京时间周五凌晨传来消息,由开源软件 vLLM 的创建者创立的人工智能初创公司 Inferact 正式成立,其在种子轮融资中筹集了 1.5 亿美元(约合 10 亿元人民币),公司估值达到 8 亿美元。

本轮融资由风险投资公司 Andreessen Horowitz(a16z)和 Lightspeed 领投,Sequoia Capital、Altimeter Capital、Redpoint Ventures 和 ZhenFund 也参与了投资。

Inferact 的 1.5 亿美元天使轮融资虽不及 Ilya Sutskever 的公司 SSI 的 10 亿美元,但已经超过了 Mistral AI 的 1.15 亿美元,是有史以来规模最大的种子轮融资之一,标志着业界对于 AI 推理基础设施的重视程度正在急速提升。

Inferact 的使命是将 vLLM 发展成为世界领先的 AI 推理引擎,并通过降低推理成本、加快推理速度来加速 AI 的发展。

该公司认为,AI 行业未来面临的最大挑战不是构建新模型,而是如何以低成本、高可靠性地运行现有模型。

毫无疑问,Inferact 的核心是开源项目 vLLM,这是一个于 2023 年启动的开源项目,旨在帮助企业在数据中心硬件上高效运行 AI 模型。

vLLM 最初由加州大学伯克利分校(UC Berkeley)的天空计算实验室 (Sky Computing Lab) 开发,现由 PyTorch 基金会负责管理,已吸引了来自整个 AI 行业的 2000 多名贡献者,是全球范围内最受欢迎的开源大模型推理加速框架。

如今,vLLM 的推理能力在为 Meta、谷歌、Character.AI 等科技公司提供支持。

Inferact 的首席执行官 Simon Mo 是一位伯克利在读博士生,他是 vLLM 的创始维护者之一。Mo 表示,公司成立于 2025 年 11 月,并于本周正式对外公布。他将 Inferact 的起源与伯克利早期的一些软件项目进行了比较,这些项目后来发展成为规模更大的企业,例如 Apache Spark 和 Ray。

在宣布融资的同时,Lightspeed(光速创投)也发布了对 Simon Mo 的访谈。在其中 Simon Mo 谈到了对于全球 AI 算力紧缺的担忧,「当前用于大模型训练的 AI 集群,将在六个月内完全被用于推理…… 推理会逐渐消耗掉所有算力容量,并耗尽所有新增的容量。」

在公告中,Inferact 表示,其定位于模型和硬件的交汇点:当模型厂商发布新架构时,他们会与 vLLM 合作,确保提供首日支持;当硬件厂商开发新芯片时,他们会与 vLLM 集成;当大模型团队进行大规模部署时,他们会运行 vLLM,从前沿实验室到超大规模数据中心,再到服务数百万用户的初创公司,无一例外。

如今,vLLM 支持了 500 多种模型架构,可在 200 多种加速器上运行,并支持着全球规模的推理。这个由 2000 多位贡献者共同构建的生态系统,是 Inferact 得以成立的基础。

Inferact 表示,其首要任务是继续支持 vLLM 作为独立的开源项目,并将改进成果分享给社区。他们计划进一步提升 vLLM 的性能,深化对新兴模型架构的支持,并扩大对前沿硬件的覆盖范围。Inferact 的第二个目标是开发一款独立的商业产品,帮助企业在不同类型的硬件上更高效地运行 AI 模型。

值得关注的是,vLLM 项目的核心贡献者清华博士游凯超成为了这家公司的联合创始人。

据介绍,Inferact 的创始团队包括 Simon Mo、Woosuk Kwon、Kaichao You(游凯超)、Roger Wang、Joseph Gonzalez、Ion Stoica 等人。

https://inferact.ai/

https://www.bloomberg.com/news/articles/2026-01-22/andreessen-backed-inferact-raises-150-million-in-seed-round

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
恒大汽车让一个东北富二代亏了 50 亿,还牵涉进了一个意外的官司

恒大汽车让一个东北富二代亏了 50 亿,还牵涉进了一个意外的官司

李丹Fintalk
2026-08-16 11:47:34
不可思议!韩红基金会加急送出几十万只保温杯,月捐人:我要的不是“爱的加急件”,而是“爱的明细账”

不可思议!韩红基金会加急送出几十万只保温杯,月捐人:我要的不是“爱的加急件”,而是“爱的明细账”

火山詩话
2026-08-16 06:52:37
跟着王兴兴,三名90后财务自由了!

跟着王兴兴,三名90后财务自由了!

21世纪经济报道
2026-08-16 17:15:32
某品牌 “又” 翻车了:宣称屏幕色域为100% sRGB,实测仅约60%

某品牌 “又” 翻车了:宣称屏幕色域为100% sRGB,实测仅约60%

宗熙先生
2026-08-16 10:27:43
和平!李在明提议结束朝鲜战争

和平!李在明提议结束朝鲜战争

IN朝鲜
2026-08-16 12:24:10
预售33.99万起 神行者8预售48小时订单突破10000台

预售33.99万起 神行者8预售48小时订单突破10000台

太平洋汽车
2026-08-16 22:41:14
闹剧结束!《牛来》确认下架!

闹剧结束!《牛来》确认下架!

编剧蓝羽生
2026-08-16 14:56:40
1500万打赏换不来一夜陪睡,榜一大哥反手把女主播送进监狱!他还是9家企业法人,有老婆孩子

1500万打赏换不来一夜陪睡,榜一大哥反手把女主播送进监狱!他还是9家企业法人,有老婆孩子

听心堂
2026-08-16 12:47:15
1-4惨败丢冠!张本智和不喊了:呆呆愣在原地 决赛前曾2亲日本国旗

1-4惨败丢冠!张本智和不喊了:呆呆愣在原地 决赛前曾2亲日本国旗

风过乡
2026-08-17 06:59:51
一座“人造空城”爆改后复业:客流已超100万人次,商铺快招满!央视曾曝光其总耗资24亿元,“停车场是唯一盈利项目”

一座“人造空城”爆改后复业:客流已超100万人次,商铺快招满!央视曾曝光其总耗资24亿元,“停车场是唯一盈利项目”

每日经济新闻
2026-08-16 19:32:24
郭德纲风波再升级,海外巨额财产被扒,曹云金和师娘特殊关系曝光

郭德纲风波再升级,海外巨额财产被扒,曹云金和师娘特殊关系曝光

荣亭小吏
2026-08-16 07:15:28
菲防长特奥多罗指挥军队抓捕中国工人,中国使馆“16连问”喊话!“一贯攻击抹黑中国”的他6月已被我外交部实施制裁和入境禁令

菲防长特奥多罗指挥军队抓捕中国工人,中国使馆“16连问”喊话!“一贯攻击抹黑中国”的他6月已被我外交部实施制裁和入境禁令

新民周刊
2026-08-16 16:10:50
深圳地铁15号线洪浪北站工程发生事故致1人死亡,调查报告公布:工人违章进入起重机回转区被挤压身亡,两家企业及多名责任人被建议追责

深圳地铁15号线洪浪北站工程发生事故致1人死亡,调查报告公布:工人违章进入起重机回转区被挤压身亡,两家企业及多名责任人被建议追责

大风新闻
2026-08-16 18:29:02
血战24小时!也门政府军强势翻盘,重创伊朗扶持胡塞武装

血战24小时!也门政府军强势翻盘,重创伊朗扶持胡塞武装

老马拉车莫少装
2026-08-16 21:35:29
河南某幼儿园招生,已经不限制户籍了!网友:当需要你的时候,啥限制也没有了!

河南某幼儿园招生,已经不限制户籍了!网友:当需要你的时候,啥限制也没有了!

谭谈社会
2026-08-17 01:17:32
网友:军事博物馆那么庄重的地方,竟然有人穿梅西球服参观,心里不是滋味!庄严的红色展馆,服装要注意!评论区吵翻了!

网友:军事博物馆那么庄重的地方,竟然有人穿梅西球服参观,心里不是滋味!庄严的红色展馆,服装要注意!评论区吵翻了!

谭谈社会
2026-08-16 08:06:30
网友:我支持车主撞杆!明明已经付完款,还被强制要求看完广告才能走,而且容易误触下载软件,到头来停车费1分没优惠,评论区一片支持!

网友:我支持车主撞杆!明明已经付完款,还被强制要求看完广告才能走,而且容易误触下载软件,到头来停车费1分没优惠,评论区一片支持!

谭谈社会
2026-08-17 00:38:43
穆里尼奥笑晕!1.4 亿天才 30 分钟封神!皇马新王碾压全场

穆里尼奥笑晕!1.4 亿天才 30 分钟封神!皇马新王碾压全场

澜归序
2026-08-17 04:19:30
4-2!张本美和为何输球?王艺迪赛后说出实情,背后功臣浮出水面

4-2!张本美和为何输球?王艺迪赛后说出实情,背后功臣浮出水面

余飩搞笑段子
2026-08-16 19:44:58
灾难首秀!曼城头号水货现形!1.2 亿新援被阿森纳打爆

灾难首秀!曼城头号水货现形!1.2 亿新援被阿森纳打爆

奶盖熊本熊
2026-08-17 02:18:27
2026-08-17 08:55:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13772文章数 142718关注度
往期回顾 全部

财经要闻

电商“AB货”,乱象背后是行业内卷

头条要闻

妻子产后怀疑丈夫出轨 头晕也怀疑是丈夫在头盔下药

头条要闻

妻子产后怀疑丈夫出轨 头晕也怀疑是丈夫在头盔下药

体育要闻

因莫比莱:普通人的平凡故事

娱乐要闻

谷爱凌发文否认恋情:“散了散了”

科技要闻

210亿美元,黄仁勋投了马斯克

汽车要闻

杨洋成001号车主 岚图追光S正式上市

态度原创

旅游
教育
本地
房产
家居

旅游要闻

云南:针对“低价团”等暑期游乱象开展调查

教育要闻

初中最值难题,学霸的方法真是太妙

本地新闻

黄景藏用半刀泥刻瓷都魂

房产要闻

金茂、招商,海南多个岗位招人!

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版