网易首页 > 网易号 > 正文 申请入驻

英伟达开源cuFile API:GPU直连高速存储,延迟降至毫秒级

0
分享至

AI 应用对数据的吞吐越来越“贪婪”,一场存储链路的变革正在发生。2026 年 8 月 4 日,英伟达在“未来内存与存储”大会上宣布,正式开源其 cuFile 垂直数据存储栈的应用程序编程接口(API),将 GPU 直接访问高速存储的延迟压到了毫秒级别。同一场合,英伟达还发起了一项名为 Storage-Next 的行业倡议,拉拢 40 家存储与闪存头部企业,共同推动面向 GPU 驱动的下一代存储方案。

cuFile 并非凭空出世。它早在 2021 年 7 月就随 CUDA 工具包 11.4 正式发布,作为 GPUDirect Storage 软件的核心组件,承担起本地分布式存储与 GPU 显存之间的高速直连通道。在此之前,数据要从 SSD 进 GPU,必须经过 CPU 和系统主内存的中转,每一步都是时延和带宽的折损。cuFile 的意义在于砍掉“中间商”——借助直接内存访问(Direct Memory Access,DMA)机制,数据可以从 NVMe 固态硬盘等存储设备直接推送到 GPU 显存,绕过 CPU 和主内存的路径,极大缩短了数据就位的时间。


这种直连架构,直接击中了大规模 AI 训练和推理的痛点:GPU 饥饿(GPU starvation)循环。在分布式 GPU 阵列中,当某个或某几个 GPU 因数据喂不饱而闲置等待时,整组芯片的利用率就会被拖垮。cuFile 提供的低延迟、高带宽数据高速公路,让 GPU 能够近乎实时地刷新显存,从而持续高速运转。英伟达在发布会上强调,cuFile API 能够实现从存储到 GPU 的安全毫秒级访问。这里的“毫秒级”意味着,哪怕面对检索增强生成(RAG)或具备行动能力的 AI 智能体(agentic AI)所需的巨型数据集,也能以令人咋舌的速度完成数据同步。

开源这一动作,相当于把这条“高速公路”的图纸交给了产业界。从此,存储厂商、控制器厂商、散热设计、机架编排等各环节都能围绕 cuFile 原生构建方案,而无需在封闭黑盒里摸索。英伟达同步推出的 Storage-Next 倡议正是为此配套:DataDirect Networks、铠侠、美光等 40 家知名的存储与闪存供应商,将共同投身于新一代 AI 存储技术的研发。他们将在 SCADA——也就是“规模化加速数据访问”(Scaled Accelerated Data Access)——的框架下,为大规模并行 GPU 提供极高的带宽和极低的延迟保障。这套 SCADA 解决方案,既支撑同时调用海量数据的现代 AI 训练,也适配那些以“思考”速度快速抓取数据的超大混合专家模型(mixture-of-experts)推理场景。

将 cuFile 开源,等于把英伟达在 GPU 直连存储领域打磨多年的能力推向公共赛道。这既降低了 GPU 与高速存储之间“最后一厘米”的接入门槛,也可能重新划定了 AI 基础设施优化的起跑线。当数据通路不再被 CPU 钳制,当毫秒级延迟成为标配,下一波让 GPU“吃饱”的工程竞赛,或许才刚刚开始。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
《资治通鉴》:如果你长相漂亮,那最好你脾气差;如果你工作能力强,你最好不讲理;如果你有能力,你就要难接触,原因有两个

《资治通鉴》:如果你长相漂亮,那最好你脾气差;如果你工作能力强,你最好不讲理;如果你有能力,你就要难接触,原因有两个

心理观察局
2026-08-05 06:04:07
资治通鉴:凡是在社会上过得好的人,不是因为多努力,也不是因为多自律,更不是因为好友遍天下,而是洞悉这让人容易忽视的两点人性

资治通鉴:凡是在社会上过得好的人,不是因为多努力,也不是因为多自律,更不是因为好友遍天下,而是洞悉这让人容易忽视的两点人性

心理观察局
2026-08-06 06:51:03
一位女网友发文相亲经历,她把年入165万的30岁“阿里P9”给Pass了

一位女网友发文相亲经历,她把年入165万的30岁“阿里P9”给Pass了

蚂蚁大喇叭
2026-08-05 10:08:54
小舅子一家出国玩,回来甩给我一张40万的账单,我直接转发给我老婆,她看了一眼说:不好意思,我啥时候多了个儿子?

小舅子一家出国玩,回来甩给我一张40万的账单,我直接转发给我老婆,她看了一眼说:不好意思,我啥时候多了个儿子?

晓艾故事汇
2026-08-05 10:06:50
8月5日俄乌最新:深度打击的收官战

8月5日俄乌最新:深度打击的收官战

西楼饮月
2026-08-05 19:17:30
晚节不保!上百份举报信,只为阻止他当选院士,三年调查还他清白

晚节不保!上百份举报信,只为阻止他当选院士,三年调查还他清白

米果说识
2026-08-05 20:36:53
中央气象台8月6日06时继续发布台风蓝色预警

中央气象台8月6日06时继续发布台风蓝色预警

界面新闻
2026-08-06 06:50:36
富豪丈夫去世5年后,63岁毛阿敏现状曝光,儿女相伴,清醒自在

富豪丈夫去世5年后,63岁毛阿敏现状曝光,儿女相伴,清醒自在

老吴教育课堂
2026-08-06 09:05:58
香港著名填词人、资深演员黎彼得去世,享年76岁;曾为多首经典歌曲填词,也是周星驰御用配角

香港著名填词人、资深演员黎彼得去世,享年76岁;曾为多首经典歌曲填词,也是周星驰御用配角

封面新闻
2026-08-06 10:19:07
今明两天北京高温闷热持续 最高气温可达36℃

今明两天北京高温闷热持续 最高气温可达36℃

北青网-北京青年报
2026-08-06 08:41:20
致敬1000万年内最伟大的企业和企业家!

致敬1000万年内最伟大的企业和企业家!

难得君
2026-08-04 16:16:42
最新后续!威胁浙江捐日军罪证少年的人找到,已有一人被警方传唤

最新后续!威胁浙江捐日军罪证少年的人找到,已有一人被警方传唤

萧狡科普解说
2026-08-05 10:31:34
泰国10岁黑人年龄造假添实锤 董路公开道歉 前国脚:他肯定不如我

泰国10岁黑人年龄造假添实锤 董路公开道歉 前国脚:他肯定不如我

江启
2026-08-06 00:29:37
2026金球奖也许成历届评选中最无法令人信服的一次

2026金球奖也许成历届评选中最无法令人信服的一次

K唐伯虎
2026-08-06 08:06:13
于东来突然宣布:2030年后胖东来停止所有经营发展!

于东来突然宣布:2030年后胖东来停止所有经营发展!

听心堂
2026-08-05 17:40:01
邬院士,别把学者的位格和奴才的位格搅在一起!

邬院士,别把学者的位格和奴才的位格搅在一起!

胖胖说他不胖
2026-08-06 09:55:09
韩国进入“国家灾难状态”

韩国进入“国家灾难状态”

鲁中晨报
2026-08-05 15:22:02
深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

深夜,歹徒闯入家中对她施暴近两个小时,她咬紧牙关一声不吭,只为保护楼上熟睡的女儿。当警察破门而入时,才发现这位母亲早已浑身是血

人生录
2026-07-30 00:05:11
大量外国女孩涌入中国相亲市场,不要彩礼,会做饭,只有一个目的

大量外国女孩涌入中国相亲市场,不要彩礼,会做饭,只有一个目的

抽象派大师
2026-08-04 08:28:09
三国铁杆朋友集体对华变脸,转向西方或抛弃中国

三国铁杆朋友集体对华变脸,转向西方或抛弃中国

秋枫凋零
2026-08-05 13:15:21
2026-08-06 10:51:00
硅屿手记
硅屿手记
有态度网友ytd
354文章数 61关注度
往期回顾 全部

科技要闻

凌晨谷歌AI地震!4位大牛离职 CEO退居二线

头条要闻

特朗普所乘直升机一度与客机距离过近 出现"间隔丧失"

头条要闻

特朗普所乘直升机一度与客机距离过近 出现"间隔丧失"

体育要闻

41岁C罗观看热身赛晒豪车:我的玩具

娱乐要闻

ENHYPEN西村力站姐和成员互动被审判

财经要闻

离岸信托的黄昏来了!顶级富豪排队补税

汽车要闻

给你一份专属的奢华与舒享 体验仰望U8L鼎藏版

态度原创

房产
时尚
数码
亲子
公开课

房产要闻

1-7月,海南楼市最新榜单出炉!

运动混搭风再见,今年流行的“阿普瑞风”穿搭太时髦了!

数码要闻

长鑫产品不打低价牌 报价不低于三星/SK海力士

亲子要闻

萌娃跳舞#小姑娘演的真棒,太可爱了《《》》

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版