网易首页 > 网易号 > 正文 申请入驻

群联 aiDAPTIV+ 技术破局“内存焦虑”:用 NAND 玩转 AI

0
分享至

IT之家 3 月 19 日消息,科技媒体 NeoWin 昨日(3 月 18 日)发布博文,报道称群联(Phison)展示了其 aiDAPTIV+ 技术,该技术通过动态缓存扩展内存,有望突破 AI 应用的内存瓶颈。

IT之家援引博文介绍,人工智能(AI)和机器学习(ML)的处理能力已成为衡量现代硬件性能的重要指标,除了处理器本身的算力,AI 任务对内存的需求也十分巨大。

AI 模型参数和精度越高,对内存的需求越大。例如,单精度(float32)通常消耗四倍于参数值的内存。即使是 32GB 显存的 RTX 5090,也可能被一个 80 亿参数的模型“喂饱”。

而 aiDAPTIV+ 技术通过动态缓存,结合基于 NAND 闪存“aiDAPTIVCache”缓存技术,扩展可用的 HBM(高带宽内存) / GDDR(专为高带宽应用设计的同步动态随机存取存储器)。

在 GTC 2025 大会上,群联携手 Maingear 公司,推出了应用 aiDAPTIV+ 技术的 AI PRO 桌面工作站,并通过 aiDAPTIVLink 3.0 新版中间件,负责 SSD 的 NAND 和 GPU 之间的数据传输,提供更快的首个 Token 时间(TTFT)回调响应,并支持更大的 LLM(大型语言模型)提示上下文。

下图展示了群联 Aidaptiv+ 技术的应用结果,在参数量超过 130 亿的模型上,群联 aiDAPTIV+ 轻松超越了 Maingear 的四路英伟达 RTX 6000 Ada 设置(未采用 aiDAPTIV+)。

Maingear 介绍称 PRO AI 工作站会动态切片 70B 训练模型,将当前切片提供给 GPU 进行高速训练,同时将模型的其余部分存储在 DRAM 和群联 AI100 SSD 中。每个 NVIDIA RTX 6000 ADA 在训练中以最少的停机时间全面表现。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
4万股东突发踩雷,这家公司白天大涨,晚上股票被实施st风险警示

4万股东突发踩雷,这家公司白天大涨,晚上股票被实施st风险警示

有范又有料
2026-03-28 10:13:07
终于爆发了,击落大批美以军机:隐身战机,超级大黄蜂不断下坠!

终于爆发了,击落大批美以军机:隐身战机,超级大黄蜂不断下坠!

混沌录
2026-03-27 16:39:18
2026年百岁老道:属马、鼠、牛、兔之人,注意这三点,则事事顺意

2026年百岁老道:属马、鼠、牛、兔之人,注意这三点,则事事顺意

古怪奇谈录
2026-03-26 10:36:55
情侣合体做俯卧撑因女友身材太好视频火了!结果网友跟拍挑战实力更顶哈哈

情侣合体做俯卧撑因女友身材太好视频火了!结果网友跟拍挑战实力更顶哈哈

斗图
2026-03-27 21:55:39
杜月笙在河边钓鱼,遇到地痞要保护费,杜月笙:找你们老板过来

杜月笙在河边钓鱼,遇到地痞要保护费,杜月笙:找你们老板过来

千秋文化
2026-03-25 21:29:50
全美50州数百万人游行,要求特朗普下台

全美50州数百万人游行,要求特朗普下台

飘逸语人
2026-03-28 21:48:51
大陆放话:不管台湾当局点不点头,厦金大桥照建不误,直达金门

大陆放话:不管台湾当局点不点头,厦金大桥照建不误,直达金门

史智文道
2026-03-28 11:42:35
东契奇:打得越好MVP排名越下降,不知道还能做什么

东契奇:打得越好MVP排名越下降,不知道还能做什么

体坛周报
2026-03-28 16:55:20
台湾统一的风向:赖清德由独转统,或能成就统一功绩

台湾统一的风向:赖清德由独转统,或能成就统一功绩

混沌录
2026-03-15 16:17:03
张雪峰女儿发声悼念惹泪目,员工回应其二婚爆料,灵堂遗照已曝光

张雪峰女儿发声悼念惹泪目,员工回应其二婚爆料,灵堂遗照已曝光

小徐讲八卦
2026-03-28 06:21:26
国际油价大涨,布油、美油均站上100美元大关

国际油价大涨,布油、美油均站上100美元大关

每日经济新闻
2026-03-28 08:57:34
陈根:新冠之后,很多人的性功能在下降?

陈根:新冠之后,很多人的性功能在下降?

陈根谈科技
2026-03-28 11:45:32
张雪峰去世仅两天!公司宣布重大决定:收回他所有肖像使用权

张雪峰去世仅两天!公司宣布重大决定:收回他所有肖像使用权

娱乐圈圈圆
2026-03-26 21:47:07
伊朗发动第81波行动,打击以色列70多处目标!内塔尼亚胡:48小时内尽可能多摧毁伊朗军工设施;伊朗外长:以将美国推向冲突,没有谈判余地

伊朗发动第81波行动,打击以色列70多处目标!内塔尼亚胡:48小时内尽可能多摧毁伊朗军工设施;伊朗外长:以将美国推向冲突,没有谈判余地

每日经济新闻
2026-03-26 08:26:06
湖北6旬女子请屠夫杀猪时,因说了句猪肠没处理干净遭屠夫儿子砍杀,凶手被鉴定为精神病!家属:没收到任何道歉

湖北6旬女子请屠夫杀猪时,因说了句猪肠没处理干净遭屠夫儿子砍杀,凶手被鉴定为精神病!家属:没收到任何道歉

大风新闻
2026-03-27 22:04:08
提升自己最快的方式(此文无价)

提升自己最快的方式(此文无价)

德鲁克博雅管理
2026-03-10 17:03:11
战争已到临界点!以色列下达决战书:48小时定生死,立刻启用核弹

战争已到临界点!以色列下达决战书:48小时定生死,立刻启用核弹

梦史
2026-03-28 12:31:05
跨性别女选手禁止参加女子比赛!奥运冠军:考文垂女人为难女人

跨性别女选手禁止参加女子比赛!奥运冠军:考文垂女人为难女人

念洲
2026-03-28 21:45:45
车长期不开,最多能停几天?记住这个数,不伤车、不毁电瓶

车长期不开,最多能停几天?记住这个数,不伤车、不毁电瓶

沙雕小琳琳
2026-03-27 08:29:51
波兰签生死令:本国公民可合法入乌克兰作战

波兰签生死令:本国公民可合法入乌克兰作战

老马拉车莫少装
2026-03-28 09:13:29
2026-03-29 02:59:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
336446文章数 607096关注度
往期回顾 全部

科技要闻

华为盘古大模型负责人王云鹤确认离职

头条要闻

伊朗议长:伊朗将加速以军崩溃

头条要闻

伊朗议长:伊朗将加速以军崩溃

体育要闻

“我是全家最差劲的运动员”

娱乐要闻

陈牧驰陈冰官宣得子 晒一家三口握拳照

财经要闻

卧底"科技与狠活"培训:化工调味剂泛滥

汽车要闻

置换补贴价4.28万起 第五代宏光MINIEV正式上市

态度原创

本地
时尚
教育
健康
公开课

本地新闻

在潍坊待了三天,没遇到一个“潍坊人”

和田曦薇一样嫩嘟嘟,这3个变美技巧你一定不能错过!

教育要闻

严丝合缝的教材阅读法՞⩌⌯⩌՞

干细胞抗衰4大误区,90%的人都中招

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版