网易首页 > 网易号 > 正文 申请入驻

押注开源推理!英伟达携手Equinix、Together AI推出企业AI推理方案

0
分享至

财联社9月3日讯(编辑 李莹)全球AI芯片龙头英伟达近日在企业AI推理市场再落一子。当地时间周三,其联手全球数据中心与互联服务商Equinix、开源模型推理平台Together AI面向企业用户推出分布式AI推理服务。

分布式推理,是指把推理任务拆分,调度分布在不同地域的多台服务器协同完成计算,让推理能力贴近企业本地数据。

该服务定名"Equinix Inference Exchange",于当地时间周三在Equinix首届客户与合作伙伴大会"Equinix Horizon"上发布,计划于2027年第一季度上市。

Equinix表示,该服务主要面向三类需求:让推理更贴近用户与数据以降低时延、帮助企业从封闭模型迁移到开源模型以控制成本,以及在受监管行业中把模型运行在指定地区的机房内,满足数据不出境等要求。

三方分工

具体分工上,英伟达在其中承担算力与技术底座角色,输出企业级参考架构(Enterprise Reference Architectures),并提供AI基础设施硬件。

NVIDIA Enterprise Reference Architectures 是英伟达一套标准化 AI 基础设施参考方案,为生产级AI环境提供覆盖计算、网络、存储与软件的整体设计,目标是最大化"AI工厂"吞吐量、压低单位token成本,使企业不必从零验证硬件选型与组网方案。

报道指出,三方构成互补的三层:Equinix在底层提供电力、先进制冷与日常运维,并通过其互联平台Equinix Fabric连接云、网络与AI服务商。

英伟达居中提供算力与参考架构;Together AI在最上层运行推理平台,支持超过200个开源模型,并提供多租户共享部署与单租户独享环境两种形态。

报道指出,承载上述方案的平台规模亦是合作基础——Equinix目前在77个都市区运营超过280个数据中心,拥有逾230个云接入点,超过1.05万家企业在其中立平台上实现互联。

Equinix表示,全球前十大AI模型提供商中的八家、前十大AI云服务商中的九家已将基础设施落地在其数据中心内。

推理成主力

该服务的推出与英伟达近期自身的业务重心迁移相互印证。

据媒体报道,英伟达在提交美国证券交易委员会的2026财年年度报告(财年截至2026年1月25日)中明确指出,推理已超越训练成为主导性负载,AI不再只是被构建,而是被大规模使用。

报告将其归因于智能体的普及——智能体在推理、规划与解决问题的每一步都在生成token,随着其被部署到更多工作流与行业,算力需求随之放大。

这一判断也体现在产品定位上。据报道,英伟达创始人兼首席执行官黄仁勋在2026财年第四季度财报公告中称,智能体AI的拐点已经到来,搭载NVLink的Grace Blackwell是当前推理领域的领先平台,可将单token成本降低一个数量级。

第三方研究显示同向趋势。麦肯锡2026年2月发布的测算显示,全球数据中心需求将从2025年的82.3吉瓦增至2030年的219吉瓦;其中AI推理负载由20.9吉瓦升至93.3吉瓦,年复合增速35%,同期AI训练负载由23.1吉瓦增至62.2吉瓦,增速22%。

麦肯锡由此判断,到2030年推理将占AI算力的一半以上、占数据中心总需求的三成至四成。

该机构同时强调,两类负载对基础设施的要求截然不同:训练需要高密度大型园区,配套专门的机电与散热系统;推理则更倾向布局在低时延、网络连接强、能效表现好的城域及近城域站点。

业内指出,这类城域及近城域站点,正是Equinix这类互联型数据中心运营商的“主场”。

(财联社 李莹)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
赛力斯问界销量近乎腰斩,“遥遥领先”为何卖不动了?

赛力斯问界销量近乎腰斩,“遥遥领先”为何卖不动了?

大厂财经社
2026-09-02 13:22:05
曝52岁黄渤重伤住院!口戴呼吸机眼神迷离,手术过后禁止进食

曝52岁黄渤重伤住院!口戴呼吸机眼神迷离,手术过后禁止进食

娱圈办事处
2026-09-03 19:06:49
普京就与乌克兰谈判提条件

普京就与乌克兰谈判提条件

参考消息
2026-09-03 14:10:09
四川绵阳市北川县附近发生5.2级左右地震

四川绵阳市北川县附近发生5.2级左右地震

界面新闻
2026-09-03 19:44:35
媒体人:刘翔是活祖宗不解他为何常年慢居国外 2015年后代言没分成

媒体人:刘翔是活祖宗不解他为何常年慢居国外 2015年后代言没分成

劲爆体坛
2026-09-03 18:35:04
退休返聘迎来严查!最高罚20万、直接清退,这三个大坑避开

退休返聘迎来严查!最高罚20万、直接清退,这三个大坑避开

天气观察站
2026-09-03 08:35:50
一米、一米,向前进(记者手记)

一米、一米,向前进(记者手记)

环球网资讯
2026-09-03 09:42:06
98年我买了一支垃圾股,忘了密码,16年后券商打电话来劝我销户,我到银行查看数额后却愣住了

98年我买了一支垃圾股,忘了密码,16年后券商打电话来劝我销户,我到银行查看数额后却愣住了

晓艾故事汇
2026-09-03 17:03:54
4年926万!官宣加盟骑士!哈登等到彩票大中锋

4年926万!官宣加盟骑士!哈登等到彩票大中锋

篮球实战宝典
2026-09-03 14:06:52
王宝强携女友回工作室!38岁冯清腹部微凸引关注,相恋8年仍未婚

王宝强携女友回工作室!38岁冯清腹部微凸引关注,相恋8年仍未婚

神颜贩卖机
2026-09-03 15:04:16
“这种脸型,长大后真的会自卑!”家长晒女儿视频,评论区一片唏嘘!

“这种脸型,长大后真的会自卑!”家长晒女儿视频,评论区一片唏嘘!

林林先生
2026-09-03 14:15:28
民主党还能赢2026吗?

民主党还能赢2026吗?

美国华人杂谈
2026-09-03 05:46:51
太扎心了!68岁老汉39℃高温挑砖,而两个女儿坐在一旁吃着200多元一个的榴莲,结果引来全网怒骂,了解内情后让人破防了

太扎心了!68岁老汉39℃高温挑砖,而两个女儿坐在一旁吃着200多元一个的榴莲,结果引来全网怒骂,了解内情后让人破防了

史海言事
2026-09-02 16:18:16
越南外交部发言人称越南对西沙群岛拥有主权,外交部回应:越南无权说三道四

越南外交部发言人称越南对西沙群岛拥有主权,外交部回应:越南无权说三道四

澎湃新闻
2026-09-03 17:22:07
“纪委的爹,副处的妈!”河北新生家长自曝身份,学校吓的急忙撇清关系!

“纪委的爹,副处的妈!”河北新生家长自曝身份,学校吓的急忙撇清关系!

林林先生
2026-09-03 15:10:18
武汉街头正大量出现,20岁大学生一个月赚了7000元;有人半天花掉两三百元,“这钱花得值”

武汉街头正大量出现,20岁大学生一个月赚了7000元;有人半天花掉两三百元,“这钱花得值”

极目新闻
2026-09-01 13:04:24
汉族血统相对纯正的5大姓氏,你的姓在列吗

汉族血统相对纯正的5大姓氏,你的姓在列吗

糖逗在娱乐
2026-09-01 00:21:11
每吃一次,大脑萎缩就快一步?这5种食物是大脑老化的“加速器”

每吃一次,大脑萎缩就快一步?这5种食物是大脑老化的“加速器”

39健康网
2026-09-03 15:30:44
普京:希望结束战争而非临时冻结,俄方随时准备与任何愿意参与谈判的人进行谈判

普京:希望结束战争而非临时冻结,俄方随时准备与任何愿意参与谈判的人进行谈判

每日经济新闻
2026-09-02 21:47:42
中国女孩在韩国遇害案真相大白了!这个案子,差点就被凶手洗白了

中国女孩在韩国遇害案真相大白了!这个案子,差点就被凶手洗白了

放开他让wo来
2026-08-31 22:37:06
2026-09-03 20:39:00
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
759910文章数 1022428关注度
往期回顾 全部

科技要闻

大模型扎堆!谷歌刚发,Meta就跟上

头条要闻

乌克兰两大情报机构街头交火 冲突爆发的根本原因披露

头条要闻

乌克兰两大情报机构街头交火 冲突爆发的根本原因披露

体育要闻

梅西:巴萨10号与阿根廷10号

娱乐要闻

王宝强携女友回工作室!相恋8年仍未婚

财经要闻

章子怡套现3亿 上美拿什么补韩束的缺?

汽车要闻

宾利托卡尔性能揭晓 电驱时代释放品牌史上最强动力

态度原创

健康
教育
亲子
房产
军事航空

脑梗能否取栓,关键看这几点!

教育要闻

8月29日雅思小作文示范写作 | 静态柱 五个国家男女高等学历占比

亲子要闻

工程车小故事 #儿童益智类手工玩具

房产要闻

投资50亿!三亚又一重大配套,方案曝光!

军事要闻

乌特工内战街头对射 互认对方为"俄特工"

无障碍浏览 进入关怀版