网易首页 > 网易号 > 正文 申请入驻

突破AI存储瓶颈,大幅提升边缘推理性能

0
分享至

随着AI应用日益渗透到企业运营的各个层面,从通过先进医学影像增强患者护理,到驱动复杂的欺诈检测模型,甚至协助野生动物保护,一个关键瓶颈经常出现:数据存储。

在VentureBeat的Transform 2025大会上,Solidigm产品和营销负责人Greg Matson和PEAK:AIO首席执行官Roger Cummings与M12管理合伙人Michael Stewart探讨了存储技术创新如何推动医疗保健领域的企业AI用例。

MONAI框架是医学影像领域的突破性进展,使其构建更快、更安全、更稳定。存储技术的进步使研究人员能够在该框架基础上构建,快速迭代和创新。PEAK:AIO与Solidgm合作,整合了高能效、高性能和大容量存储,使MONAI能够在其IT环境的单个节点上存储超过200万个全身CT扫描。

"随着企业AI基础设施的快速发展,存储硬件越来越需要根据具体用例进行定制,这取决于它们在AI数据管道中的位置,"Matson说。"我们与MONAI讨论的用例类型,即边缘用例以及训练集群的数据供给,都很好地适用于超大容量固态存储解决方案,但实际的推理和模型训练需要不同的东西。这需要非常高性能、极高每秒I/O的SSD要求。对我们而言,RAG正在分化我们制造的产品类型以及我们必须与软件进行的集成类型。"

提升边缘AI推理性能

为了在边缘实现峰值性能,关键是将存储缩减到单个节点,以便将推理更接近数据。关键是消除内存瓶颈。这可以通过将内存作为AI基础设施的一部分来实现,以便与数据和元数据一起扩展。数据与计算的接近度显著提高了洞察的时间。

"你看到所有大规模部署,用于AI的大型绿地数据中心,使用非常特定的硬件设计,能够将数据尽可能接近GPU,"Matson说。"他们一直在构建具有超大容量固态存储的数据中心,以极高速度为GPU提供PB级存储的便捷访问。现在,同样的技术正在边缘和企业中的微观环境中发生。"

对于AI系统的购买者来说,确保通过在全固态上运行来获得系统的最大性能变得至关重要。这允许你引入大量数据,并在边缘的小型系统中实现令人难以置信的处理能力。

AI硬件的未来

"我们必须提供开放、可扩展、具有内存速度的解决方案,使用一些最新最好的技术来实现这一点,"Cummings说。"这是我们公司的目标,提供组织所需的开放性、速度和规模。我认为你会看到经济性也会与此匹配。"

对于整个训练和推理数据管道,以及推理本身,硬件需求将持续增长,无论是超高速SSD还是节能的超大容量解决方案。

"我认为它将进一步向超大容量方向发展,无论是几年后的1PB SSD,以极低功耗运行,基本上可以替代四倍数量的硬盘,还是接近内存速度的超高性能产品,"Matson说。"你会看到大型GPU供应商正在研究如何定义下一代存储架构,以便它能够非常紧密地帮助增强系统中的HBM。云计算中的通用SSD现在正在分化为容量和性能两个方向。在未来5到10年中,我们将在这两个方向上继续深化发展。"

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
邹市明台上拼命打拳,冉莹颖台下叫得非常激动,李维嘉满脸担忧!2017年一场拳击赛被扒,引轩然大波

邹市明台上拼命打拳,冉莹颖台下叫得非常激动,李维嘉满脸担忧!2017年一场拳击赛被扒,引轩然大波

火山詩话
2026-07-21 08:25:39
张雪峰曾说过,真正有远见的父母,不会把小学六年浪费在钢琴、机器人、舞蹈等兴趣班

张雪峰曾说过,真正有远见的父母,不会把小学六年浪费在钢琴、机器人、舞蹈等兴趣班

户外阿毽
2026-07-15 06:02:59
再坚持两天!7月24日起四川盆地“退烧” 这次凉爽保质期还有点长

再坚持两天!7月24日起四川盆地“退烧” 这次凉爽保质期还有点长

封面新闻
2026-07-21 17:38:02
冲突酿成恶果!马竞考虑出售莫利纳,球迷集体抵制不愿再见到他

冲突酿成恶果!马竞考虑出售莫利纳,球迷集体抵制不愿再见到他

童叔不飙车
2026-07-21 12:48:00
95比76大胜锁定第一!女篮霸主豪取5连胜:冲击冠军真的稳了?

95比76大胜锁定第一!女篮霸主豪取5连胜:冲击冠军真的稳了?

篮球快餐车
2026-07-21 07:01:10
只为省钱!雷霆交易多尔特的真实原因,狂省3.17亿薪资+奢侈税

只为省钱!雷霆交易多尔特的真实原因,狂省3.17亿薪资+奢侈税

夜白侃球
2026-07-21 19:53:31
俄军不宣而战,乌首都炸成火海,中俄条约生效,泽连斯基临阵换将

俄军不宣而战,乌首都炸成火海,中俄条约生效,泽连斯基临阵换将

霁寒飘雪
2026-07-20 11:40:30
一家3代短命!蔡磊处境曝光,斥资续命收效甚微,儿子也成牺牲品

一家3代短命!蔡磊处境曝光,斥资续命收效甚微,儿子也成牺牲品

周哥一影视
2026-07-04 20:40:16
西班牙专家一针见血地指出:中日摩擦反复爆发,根源并非日本看不清实力差距,而是二战后那四笔血债,八十多年了还没算清楚

西班牙专家一针见血地指出:中日摩擦反复爆发,根源并非日本看不清实力差距,而是二战后那四笔血债,八十多年了还没算清楚

人生录
2026-07-16 03:47:24
巴丹群岛主权到底归谁,台当局支支吾吾半个月,最后憋出7个字

巴丹群岛主权到底归谁,台当局支支吾吾半个月,最后憋出7个字

影孖看世界
2026-07-21 15:47:06
谢霆锋青岛演唱会再次开售,1分钟内所有票种均售罄,大麦客服:暂未收到取消或延期通知

谢霆锋青岛演唱会再次开售,1分钟内所有票种均售罄,大麦客服:暂未收到取消或延期通知

极目新闻
2026-07-21 14:06:06
冰雹预警更新为橙色!未来2小时内,上海两区大部分街镇出现冰雹可能性极大

冰雹预警更新为橙色!未来2小时内,上海两区大部分街镇出现冰雹可能性极大

上观新闻
2026-07-21 18:50:42
CBA最新消息!广东宏远新主帅确定,超级外援加盟浙江男篮

CBA最新消息!广东宏远新主帅确定,超级外援加盟浙江男篮

体坛瞎白话
2026-07-21 07:22:19
苹果 Apple Watch 即将迎来大改款!这些痛点终于要解决了

苹果 Apple Watch 即将迎来大改款!这些痛点终于要解决了

XCiOS俱乐部
2026-07-21 16:34:40
阿姨真有既优雅又有女人味的简约打扮确实很吸引人

阿姨真有既优雅又有女人味的简约打扮确实很吸引人

美女穿搭分享
2026-07-20 17:05:09
500红军不愿改编,杀5名劝导的干部,这支孤军的下场让史学界无言

500红军不愿改编,杀5名劝导的干部,这支孤军的下场让史学界无言

磊子讲史
2026-07-04 16:59:58
14岁少年双腿文成“大花腿”,家长索赔20万元

14岁少年双腿文成“大花腿”,家长索赔20万元

新民周刊
2026-07-20 20:10:39
曝iPhone 20 Pro Max首发7寸屏,史上最大

曝iPhone 20 Pro Max首发7寸屏,史上最大

搞机小帝
2026-07-21 18:24:17
黎力 16 岁考入北科大,23 岁抢劫获刑,29 岁出狱再考 598 分考入西安交大

黎力 16 岁考入北科大,23 岁抢劫获刑,29 岁出狱再考 598 分考入西安交大

唠叨说历史
2026-07-10 10:56:36
余额宝、零钱通9月30日起不能直接付款了

余额宝、零钱通9月30日起不能直接付款了

侃故事的阿庆
2026-07-20 00:51:09
2026-07-21 20:32:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
20233文章数 49721关注度
往期回顾 全部

科技要闻

OpenAI高管:Kimi K3强到没法用"蒸馏"解释

头条要闻

男子工亡哥哥获赔116万 分居多年妻子起诉索还91.6万

头条要闻

男子工亡哥哥获赔116万 分居多年妻子起诉索还91.6万

体育要闻

“不会进球”的前锋,在世界杯决赛进球了

娱乐要闻

谢贤被曝已火葬,狄波拉携儿女送别

财经要闻

百虾竞速上车:4条路线争夺车载AI话语权

汽车要闻

WAIC专访 | 智在无界张力:深耕模型算法,给机器人装上智能大脑

态度原创

游戏
艺术
本地
公开课
军事航空

任何词语皆可为咒!语音魔法冒险《喵出法随》现已正式发售

艺术要闻

赵孟頫才是“真亚圣”,这字800年来无敌手

本地新闻

杭州诗意路名,自带氛围感

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美伊再开打 战局出现新变化

无障碍浏览 进入关怀版