网易首页 > 网易号 > 正文 申请入驻

vLLM团队官宣创业:融资1.5亿美元,清华特奖游凯超成为联创

0
分享至



编辑|泽南

大模型推理的基石 vLLM,现在成为创业公司了。

北京时间周五凌晨传来消息,由开源软件 vLLM 的创建者创立的人工智能初创公司 Inferact 正式成立,其在种子轮融资中筹集了 1.5 亿美元(约合 10 亿元人民币),公司估值达到 8 亿美元。



本轮融资由风险投资公司 Andreessen Horowitz(a16z)和 Lightspeed 领投,Sequoia Capital、Altimeter Capital、Redpoint Ventures 和 ZhenFund 也参与了投资。

Inferact 的 1.5 亿美元天使轮融资虽不及 Ilya Sutskever 的公司 SSI 的 10 亿美元,但已经超过了 Mistral AI 的 1.15 亿美元,是有史以来规模最大的种子轮融资之一,标志着业界对于 AI 推理基础设施的重视程度正在急速提升。

Inferact 的使命是将 vLLM 发展成为世界领先的 AI 推理引擎,并通过降低推理成本、加快推理速度来加速 AI 的发展。

该公司认为,AI 行业未来面临的最大挑战不是构建新模型,而是如何以低成本、高可靠性地运行现有模型。

毫无疑问,Inferact 的核心是开源项目 vLLM,这是一个于 2023 年启动的开源项目,旨在帮助企业在数据中心硬件上高效运行 AI 模型。



vLLM 最初由加州大学伯克利分校(UC Berkeley)的天空计算实验室 (Sky Computing Lab) 开发,现由 PyTorch 基金会负责管理,已吸引了来自整个 AI 行业的 2000 多名贡献者,是全球范围内最受欢迎的开源大模型推理加速框架。

如今,vLLM 的推理能力在为 Meta、谷歌、Character.AI 等科技公司提供支持。

Inferact 的首席执行官 Simon Mo 是一位伯克利在读博士生,他是 vLLM 的创始维护者之一。Mo 表示,公司成立于 2025 年 11 月,并于本周正式对外公布。他将 Inferact 的起源与伯克利早期的一些软件项目进行了比较,这些项目后来发展成为规模更大的企业,例如 Apache Spark 和 Ray。



在宣布融资的同时,Lightspeed(光速创投)也发布了对 Simon Mo 的访谈。在其中 Simon Mo 谈到了对于全球 AI 算力紧缺的担忧,「当前用于大模型训练的 AI 集群,将在六个月内完全被用于推理…… 推理会逐渐消耗掉所有算力容量,并耗尽所有新增的容量。」



在公告中,Inferact 表示,其定位于模型和硬件的交汇点:当模型厂商发布新架构时,他们会与 vLLM 合作,确保提供首日支持;当硬件厂商开发新芯片时,他们会与 vLLM 集成;当大模型团队进行大规模部署时,他们会运行 vLLM,从前沿实验室到超大规模数据中心,再到服务数百万用户的初创公司,无一例外。

如今,vLLM 支持了 500 多种模型架构,可在 200 多种加速器上运行,并支持着全球规模的推理。这个由 2000 多位贡献者共同构建的生态系统,是 Inferact 得以成立的基础。

Inferact 表示,其首要任务是继续支持 vLLM 作为独立的开源项目,并将改进成果分享给社区。他们计划进一步提升 vLLM 的性能,深化对新兴模型架构的支持,并扩大对前沿硬件的覆盖范围。Inferact 的第二个目标是开发一款独立的商业产品,帮助企业在不同类型的硬件上更高效地运行 AI 模型。

值得关注的是,vLLM 项目的核心贡献者清华博士游凯超成为了这家公司的联合创始人。



据介绍,Inferact 的创始团队包括 Simon Mo、Woosuk Kwon、Kaichao You(游凯超)、Roger Wang、Joseph Gonzalez、Ion Stoica 等人。

https://inferact.ai/

https://www.bloomberg.com/news/articles/2026-01-22/andreessen-backed-inferact-raises-150-million-in-seed-round

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
Alphabet市值逼近全球第一

Alphabet市值逼近全球第一

财闻
2026-05-11 10:13:29
缅甸挖出2.2公斤的顶级红宝石,形成这样的红宝石需要什么条件?

缅甸挖出2.2公斤的顶级红宝石,形成这样的红宝石需要什么条件?

之乎者也小鱼儿
2026-05-10 18:38:19
世体:阿韦洛亚向塞瓦略斯潜在下家说其坏话,塞瓦略斯颇为不满

世体:阿韦洛亚向塞瓦略斯潜在下家说其坏话,塞瓦略斯颇为不满

懂球帝
2026-05-11 15:10:21
网红瓜妈与高种姓印度老公离婚后续:短视频粉丝锐减,已停止更新

网红瓜妈与高种姓印度老公离婚后续:短视频粉丝锐减,已停止更新

小徐讲八卦
2026-05-11 10:22:16
郑晓龙新版《红楼梦》选角敲定:白鹿宋祖儿李一桐甘当配角,三位主角启用新人

郑晓龙新版《红楼梦》选角敲定:白鹿宋祖儿李一桐甘当配角,三位主角启用新人

老吴教育课堂
2026-05-11 15:20:49
毛主席原定1950年举行开国大典,斯大林得知后当场变脸警告刘少奇:必须立刻改期!

毛主席原定1950年举行开国大典,斯大林得知后当场变脸警告刘少奇:必须立刻改期!

寄史言志
2026-05-09 19:13:45
常州高架通车,别让“迷信”活动开了“倒车”

常州高架通车,别让“迷信”活动开了“倒车”

清哲木观察
2026-05-11 15:14:04
俄驻日大使:俄日关系进入“冰河期”

俄驻日大使:俄日关系进入“冰河期”

财联社
2026-05-11 15:22:07
蒯曼真扶不起!又输日本,秦志戬许昕指点也没用,又靠孙颖莎救场

蒯曼真扶不起!又输日本,秦志戬许昕指点也没用,又靠孙颖莎救场

三十年莱斯特城球迷
2026-05-10 21:04:41
8000万死磕+2400万爽约!英超转会乱象,谁在打碎球员美梦?

8000万死磕+2400万爽约!英超转会乱象,谁在打碎球员美梦?

姜来不加盐
2026-05-11 15:56:36
孙颖莎独得两分,日媒赛后给出评价“拖垮日本”,水谷隼也改口了

孙颖莎独得两分,日媒赛后给出评价“拖垮日本”,水谷隼也改口了

生活新鲜市
2026-05-11 16:10:14
夺12连冠!随着国乒3-0日本,诞生3个不可思议,还有2个不争事实

夺12连冠!随着国乒3-0日本,诞生3个不可思议,还有2个不争事实

侃球熊弟
2026-05-11 01:44:31
特朗普还没来,美方先把要求说了,美议员:希望中方买波音客机

特朗普还没来,美方先把要求说了,美议员:希望中方买波音客机

素颜为谁倾城人
2026-05-11 13:47:37
出来玩就是吃,实在不行兜着走

出来玩就是吃,实在不行兜着走

飛娱日记
2026-04-25 07:56:26
张本智和:输球责任在我!林诗栋站球台庆祝,陈玘直言完了不能站

张本智和:输球责任在我!林诗栋站球台庆祝,陈玘直言完了不能站

排球黄金眼
2026-05-11 06:12:53
2026端午放假时间,有3个好消息,3个坏消息,2个早准备,要了解

2026端午放假时间,有3个好消息,3个坏消息,2个早准备,要了解

小茉莉美食记
2026-05-11 12:26:44
笑麻了,原来真实的乡镇公务员是这样的!网友:疑是被编制做局了

笑麻了,原来真实的乡镇公务员是这样的!网友:疑是被编制做局了

另子维爱读史
2026-05-10 10:55:25
体检报告中,若3个指标都正常,基本可以排除很多疾病

体检报告中,若3个指标都正常,基本可以排除很多疾病

芹姐说生活
2026-05-08 19:06:29
詹姆斯心理脆弱,詹姆斯历史第九!哥们一回归就杀疯了

詹姆斯心理脆弱,詹姆斯历史第九!哥们一回归就杀疯了

左右为篮
2026-05-11 17:03:41
基恩:西汉姆联确实要降级了,而热刺的保级形势已经相当乐观

基恩:西汉姆联确实要降级了,而热刺的保级形势已经相当乐观

懂球帝
2026-05-11 07:23:07
2026-05-11 17:24:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
12970文章数 142648关注度
往期回顾 全部

财经要闻

"手搓汽车"曝光:伪造证件、电池以旧代新

头条要闻

媒体:中美元首即将北京会晤 美方一细节耐人寻味

头条要闻

媒体:中美元首即将北京会晤 美方一细节耐人寻味

体育要闻

尼克斯横扫费城:唐斯恩比德的命运与角色

娱乐要闻

“孕妇坠崖案”王暖暖称被霸凌协商解约

科技要闻

黄仁勋:你们赶上了一代人一次的大机会

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

艺术
家居
教育
公开课
军事航空

艺术要闻

陆抑非写竹,笔力遒劲

家居要闻

多元生活 此处无声

教育要闻

收藏:2026山东二模划线+试题+一分一段

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普:伊朗的回应“完全不可接受”

无障碍浏览 进入关怀版