初创公司硬刚英伟达，FPGA要掀翻GPU！成本爆砍50倍、功耗大降80%！

在AI算力成本居高不下、大模型部署门槛越来越高的今天，一家来自美国西雅图的硬件初创公司，正用全新路线向英伟达发起正面挑战。

近日，由前苹果、Meta机器学习工程师联合创立的AI硬件公司ElastixAI正式走出隐身模式，发布了基于FPGA的大语言模型推理平台。

这家成立不久的初创公司，直接打出了一组极具冲击力的数据：

相比英伟达GPU部署方案，其平台可实现总体拥有成本最高降低50倍，功耗减少80%。

前苹果Meta团队出山，1800万美元融资加持

ElastixAI的创始团队来头不小，核心成员均来自苹果、Meta、Waymo等一线科技巨头，在机器学习优化、AI芯片、自动驾驶系统等领域拥有深厚积累。

2025年5月，公司已完成由Fuse VC领投的1800万美元种子轮融资。

此次公开亮相，他们带来了可直接替换现有GPU服务器的Elastix Rack整机方案，首批硬件计划在2026年年中正式出货。

在产品发布前的独家专访中，联合创始人团队详细解释了一个核心判断：

GPU擅长训练，FPGA才是推理的未来。

GPU天生不适合LLM推理：一个根本性错配

ElastixAI的核心论点非常清晰：

当前行业的主流方案——英伟达GPU，从架构上就不是为LLM推理设计的。

•大模型训练：强计算密集型，需要大量算力，GPU如鱼得水。

•大模型推理：强内存密集型，更吃带宽与容量，GPU效率大幅下降。

创始人Mohammad Rastegari直言：

“训练高度依赖算力，推理高度依赖内存。这种错配，直接导致GPU在推理场景下利用率极低。”

更致命的是硬件僵化问题。

以4比特量化为例，理论上可以让吞吐量翻倍，但在H100这类缺乏原生支持的硬件上，工程师只能通过软件内核“绕路实现”，最终算力利用率可能只有10%。

ElastixAI 的方法如何应对关键的大型语言模型推理挑战

ElastixAI的思路则完全不同：

不堆最贵的存储，不做封闭的专用芯片，而是围绕单位带宽成本、单位容量成本这两个真正决定TCO的指标做优化。

通过软件‑ML‑硬件协同设计，在通用商用FPGA服务器上榨干性能，用更便宜的DDR、HBM实现大模型推理所需的带宽，成本远低于行业顶级存储方案。

为什么选FPGA，而不是死磕专用芯片？

很多人会问：既然要颠覆GPU，为什么不直接做ASIC专用芯片？

ElastixAI的答案非常现实：

AI迭代速度，已经远超芯片研发周期。

Rastegari举了一个极具说服力的例子：混合专家模型MoE。

不少公司刚立项流片时，MoE还不是主流；等芯片设计完成、准备量产，行业已经全面转向MoE，之前的芯片直接过时。

“定制芯片从设计到量产要三年以上，

但机器学习的格局，几个月就可能天翻地覆。”

反观FPGA，优势一目了然：

可快速重构、随需求迭代。

从早期20令牌/秒就能满足交互，到如今需要200令牌/秒支持推理，硬件需求变化极快。

FPGA可以持续适配，而固定架构芯片做不到。

团队同时指出：

通用性和效率本身就是矛盾。

越追求通用，就要加越多冗余硅片，效率必然下降。

Transformer架构如今已足够稳定，非常适合用FPGA实现；

而底层优化仍在飞速迭代，锁定专用芯片设计，风险极高。

至于未来是否会自研专用芯片，公司态度非常谨慎：

“是否流片、何时流片，完全取决于机器学习技术的迭代速度。”

成本降50倍、功耗降80%，还能风冷部署

在最关键的性能对比上，ElastixAI给出了明确数据：

•相比英伟达B200，成本优势最高可达50倍

•同等吞吐量下，单令牌功耗降低5倍

•整体功耗降低80%

这些数字覆盖数据中心全场景的资本支出CapEx与运营支出OpEx，并已与FPGA厂商、数据中心运营商联合验证。

更让现有机房心动的是部署条件：

•Elastix Rack：标准机柜，17–19 kW，风冷即可

•英伟达GB200 NVL72：120–200 kW，需要专用液冷

绝大多数现有数据中心，无法直接上英伟达高端方案，

但可以无缝接入ElastixAI的FPGA机架。

即插即用：无痛替换英伟达GPU

为了降低迁移门槛，ElastixAI做了一个极其关键的设计：

通过vLLM插件，直接替换掉英伟达CUDA后端，

但前端OpenAI兼容接口完全不变。

这意味着：

从GPU迁移过来的用户，不需要修改任何应用代码与业务栈，就能直接使用。

公司还计划效仿英伟达早年构建CUDA生态的思路：

未来向研究者开放模型转换工具，免费提供软件能力，

逐步围绕自身平台，形成持续滚动的开发者飞轮。

ElastixAI 的方法相较于标准 GPU 机架实现在 AI 计算中具有多项关键优势

在英伟达凭借GPU占据AI算力绝对主导的今天，ElastixAI走出了一条差异化路线：

不做最贵的芯片，做最适合推理的方案。

用FPGA替代GPU、用通用硬件替代专用加速器、用风冷替代液冷、用低成本替代高投入。

如果其宣称的**成本降50倍、功耗降80%**能够落地，

那么整个LLM部署、云服务商、数据中心的格局，都可能被重新改写。

目前，ElastixAI已向部分企业客户与数据中心开放试用，

硬件正式交付时间定在2026年年中。

GPU的推理霸权，真的要被FPGA动摇了吗？

我们很快就会看到答案。

参考原文

https://www.allaboutcircuits.com/news/elastixai-emerges-from-stealth-with-fpga-approach-to-gen-ai-supercomputing

创芯大讲堂 芯片课程 75折倒计时