网易首页 > 网易号 > 正文 申请入驻

群联 aiDAPTIV+ 技术破局“内存焦虑”:用 NAND 玩转 AI

0
分享至

IT之家 3 月 19 日消息,科技媒体 NeoWin 昨日(3 月 18 日)发布博文,报道称群联(Phison)展示了其 aiDAPTIV+ 技术,该技术通过动态缓存扩展内存,有望突破 AI 应用的内存瓶颈。

IT之家援引博文介绍,人工智能(AI)和机器学习(ML)的处理能力已成为衡量现代硬件性能的重要指标,除了处理器本身的算力,AI 任务对内存的需求也十分巨大。

AI 模型参数和精度越高,对内存的需求越大。例如,单精度(float32)通常消耗四倍于参数值的内存。即使是 32GB 显存的 RTX 5090,也可能被一个 80 亿参数的模型“喂饱”。

而 aiDAPTIV+ 技术通过动态缓存,结合基于 NAND 闪存“aiDAPTIVCache”缓存技术,扩展可用的 HBM(高带宽内存) / GDDR(专为高带宽应用设计的同步动态随机存取存储器)。

在 GTC 2025 大会上,群联携手 Maingear 公司,推出了应用 aiDAPTIV+ 技术的 AI PRO 桌面工作站,并通过 aiDAPTIVLink 3.0 新版中间件,负责 SSD 的 NAND 和 GPU 之间的数据传输,提供更快的首个 Token 时间(TTFT)回调响应,并支持更大的 LLM(大型语言模型)提示上下文。

下图展示了群联 Aidaptiv+ 技术的应用结果,在参数量超过 130 亿的模型上,群联 aiDAPTIV+ 轻松超越了 Maingear 的四路英伟达 RTX 6000 Ada 设置(未采用 aiDAPTIV+)。

Maingear 介绍称 PRO AI 工作站会动态切片 70B 训练模型,将当前切片提供给 GPU 进行高速训练,同时将模型的其余部分存储在 DRAM 和群联 AI100 SSD 中。每个 NVIDIA RTX 6000 ADA 在训练中以最少的停机时间全面表现。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
开年大瓜!国产女优上岸成功嫁为人妻,拍短视频后遭恶语相向

开年大瓜!国产女优上岸成功嫁为人妻,拍短视频后遭恶语相向

社会酱
2026-01-16 16:54:49
亚足联严查!西亚裁判再次针对国足,点球不判+胡乱给黄牌,离谱

亚足联严查!西亚裁判再次针对国足,点球不判+胡乱给黄牌,离谱

球盲百小易
2026-01-18 01:48:22
俄总统普京呼吁各国遵守国际法,卡德罗夫之子突遭车祸生命垂危

俄总统普京呼吁各国遵守国际法,卡德罗夫之子突遭车祸生命垂危

史政先锋
2026-01-17 12:00:24
土耳其对华免签生效,首批游客已经“破产”,一瓶可乐卖34块人民币

土耳其对华免签生效,首批游客已经“破产”,一瓶可乐卖34块人民币

回旋镖
2026-01-17 14:09:06
价格雪崩!近300元跌至35元,曾经的网红“卖不动了”

价格雪崩!近300元跌至35元,曾经的网红“卖不动了”

深圳晚报
2026-01-16 23:18:24
超级世界波!韩国偷袭成功,一号公路再现,3战澳大利亚轰6球

超级世界波!韩国偷袭成功,一号公路再现,3战澳大利亚轰6球

奥拜尔
2026-01-18 00:04:30
罗永浩喊停,贾国龙再发声:他让西贝雪上加霜;改不了自己的老,但可以慢慢去“登”

罗永浩喊停,贾国龙再发声:他让西贝雪上加霜;改不了自己的老,但可以慢慢去“登”

红星资本局
2026-01-17 23:16:28
老将失手、新箭折翼:解剖中国航天发射1·17双失败

老将失手、新箭折翼:解剖中国航天发射1·17双失败

三体引力波
2026-01-17 19:29:55
薛飞爆大冷!比输球更可怕的是,张本智和这番话,心气崩了&哭了

薛飞爆大冷!比输球更可怕的是,张本智和这番话,心气崩了&哭了

梅亭谈
2026-01-17 19:09:35
车臣领导人卡德罗夫之子遭遇车祸,伤势严重,已送往莫斯科治疗

车臣领导人卡德罗夫之子遭遇车祸,伤势严重,已送往莫斯科治疗

山河路口
2026-01-17 11:13:03
5岁孩子长期玩"玩具",黑眼珠逐渐"消失",医生:很难恢复了

5岁孩子长期玩"玩具",黑眼珠逐渐"消失",医生:很难恢复了

大果小果妈妈
2026-01-15 20:16:55
随着韩国2-1绝杀澳大利亚,亚洲杯4强出炉!大概率以下2队进决赛

随着韩国2-1绝杀澳大利亚,亚洲杯4强出炉!大概率以下2队进决赛

小火箭爱体育
2026-01-18 01:34:51
基层减负迎来巨变!昨天召开的中央层面重要会议,首次将“手术刀”指向“上级”

基层减负迎来巨变!昨天召开的中央层面重要会议,首次将“手术刀”指向“上级”

识局Insight
2026-01-17 15:51:04
重磅!中央明确养老金改革方向,2026年起公平养老迈出关键一步

重磅!中央明确养老金改革方向,2026年起公平养老迈出关键一步

来科点谱
2026-01-17 08:52:21
贾国龙要求道歉,罗永浩承认冷冻西蓝花“成本更高”!一斤西蓝花从两块多升值到20多元,业内人士:速冻的可能比新鲜菜更好

贾国龙要求道歉,罗永浩承认冷冻西蓝花“成本更高”!一斤西蓝花从两块多升值到20多元,业内人士:速冻的可能比新鲜菜更好

每日经济新闻
2026-01-17 12:33:05
刷新历史!中国U23男足进入亚洲杯四强

刷新历史!中国U23男足进入亚洲杯四强

界面新闻
2026-01-17 22:17:49
轰23脚仍出局!乌兹主帅道歉 被U23国足3点所震撼:李昊未来光明

轰23脚仍出局!乌兹主帅道歉 被U23国足3点所震撼:李昊未来光明

我爱英超
2026-01-17 23:42:28
央媒发文痛批,这代被“数字泔水”喂养的孩子,正集体得“脑雾”

央媒发文痛批,这代被“数字泔水”喂养的孩子,正集体得“脑雾”

新东方
2026-01-16 17:37:02
李湘还能活多久

李湘还能活多久

求实处
2026-01-16 19:43:38
刚刚 | 罗永浩再发朋友圈!

刚刚 | 罗永浩再发朋友圈!

天津广播
2026-01-17 23:56:20
2026-01-18 04:47:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
325117文章数 606889关注度
往期回顾 全部

科技要闻

两枚火箭发射失利,具体原因正排查

头条要闻

李昊发挥神勇 U23国足点球战胜乌兹别克斯坦晋级四强

头条要闻

李昊发挥神勇 U23国足点球战胜乌兹别克斯坦晋级四强

体育要闻

三巨头走了俩,联盟笑柄却起飞了

娱乐要闻

马年春晚首次联排场外细节!

财经要闻

保不准,人民币会闪击6.8!

汽车要闻

林肯贾鸣镝:稳中求进,将精细化运营进行到底

态度原创

艺术
健康
旅游
游戏
军事航空

艺术要闻

你绝对想不到!央美华宜玉的水彩画竟然如此震撼!

血常规3项异常,是身体警报!

旅游要闻

石上生梅,荒坡成景!酉阳叠石花谷藏着武陵山区的振兴密码

这下好了,英伦侦探风也给老钟玩懂了"/> 主站 商城 论坛 自运营 登录 注册 这下好了,英伦侦探风也给老钟玩懂了 廉颇 2026-01-17 返回专栏...

军事要闻

普京谈及当前国际局势:世界太危险了

无障碍浏览 进入关怀版