网易首页 > 网易号 > 正文 申请入驻

利用固态硬盘降低AI微调训练显存需求,群联展示aiDaptiv+ 平台

0
分享至

IT之家 3 月 27 日消息,据外媒 Tom's Hardware 报道,群联在英伟达 GDC2024 上展示了同 Maingear 合作的 aiDaptiv+ 硬件平台,可降低中小型企业 AI 模型微调训练成本。

群联表示中小型企业在模型微调训练方面面临各种困难:采用云服务不仅昂贵也存在数据隐私的不稳定性;而在本地运行又需要复杂的构建过程,电力需求也不能忽视。

而群联 aiDaptiv+ 方案采用超耐用型 aiDAPTIVCache 固态硬盘,可扩展系统的可用内存容量,容纳更大模型,同时也方便易用。

具体来说,aiDaptiv+ 包含的中间件软件库可将 GPU 显存中不活跃的 AI 模型层切片分离,在 aiDAPTIVCache 缓存固态硬盘上暂放待处理的这些切片,并将 GPU 上已完成的部分与待处理的切片交换。此过程无需对 AI 应用本身进行修改。

▲ 图源Tom's Hardware

▲ 图源 Tom's Hardware

群联表示,其 aiDaptiv+ 方案可在一台 4 卡工作站平台中完成 Llama 70b 模型的微调训练,容纳显存总量 7 倍以上的数据。

▲ 图源群联官方

而为了实现这种显存外数据存储,方案中的固态硬盘必须要有足够高的耐久。

群联此次推出的 aiDAPTIVCache 系列固态硬盘 ai100E,其采用 SLC 闪存,每根容量 2TB,拥有 5 年内 100DWPD(IT之家注:每日整盘写入次数)的写入耐久。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国股市失控信号亮起:这次可能真的不是玩笑

中国股市失控信号亮起:这次可能真的不是玩笑

星语者056
2026-11-20 08:56:23
上海惨败揪出最大水货!效率超低 他在场输26分 队记怒喷:可以裁了

上海惨败揪出最大水货!效率超低 他在场输26分 队记怒喷:可以裁了

南海浪花
2026-11-21 07:05:40
为什么现在部分股民对中国股市有这么大的怨气?

为什么现在部分股民对中国股市有这么大的怨气?

星语者056
2026-11-21 10:21:43
官媒发文,锐评赵本山新歌,言辞犀利,句句都说到了年轻人心坎上

官媒发文,锐评赵本山新歌,言辞犀利,句句都说到了年轻人心坎上

霁寒飘雪
2026-11-21 07:31:21
印度网红来重庆旅游,痛批中国人吃牛肉的行为,完全不尊重印度文化

印度网红来重庆旅游,痛批中国人吃牛肉的行为,完全不尊重印度文化

新游戏大妹子
2026-11-20 13:07:07
“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

“拼命生产裁减工人,到时候卖给空气”?浙江车间299台注塑机仅8人值守,网友急了:全部失业谁有钱消费

王老师你还好吗
2026-11-21 13:43:36
转告父母:这6种病属于“老年病”,过度治疗反而伤身,安然接受

转告父母:这6种病属于“老年病”,过度治疗反而伤身,安然接受

39健康网
2026-11-21 09:00:36
全崩了!一夜之间集体暴跌;近30万人爆仓

全崩了!一夜之间集体暴跌;近30万人爆仓

叮当当科技
2026-11-21 15:00:22
惊天大暴跌来了,周一我们怎么办?

惊天大暴跌来了,周一我们怎么办?

萌生财经
2026-11-21 12:10:20
俄军奋力防守仍没能守住,克里米亚大桥的惨状,全世界都看见了

俄军奋力防守仍没能守住,克里米亚大桥的惨状,全世界都看见了

古书奇谈
2026-11-18 15:15:03
突发!46岁谢霆锋宣布喜讯!

突发!46岁谢霆锋宣布喜讯!

财经要参
2026-11-21 12:00:05
“AI检出率”致作者陷自证困局:论文改到“学生作文水平”才达标,却没了学术性

“AI检出率”致作者陷自证困局:论文改到“学生作文水平”才达标,却没了学术性

澎湃新闻
2026-11-21 09:32:42
软银孙正义曾考虑1万亿美元收购SK海力士,现已暂缓

软银孙正义曾考虑1万亿美元收购SK海力士,现已暂缓

界面新闻
2026-11-21 10:40:18
越喊盛世,越让人心虚

越喊盛世,越让人心虚

鲁先生的笔
2026-11-20 12:28:28
狂砍51+6+6,哈登创NBA历史!阿特金森:你该醒醒了!

狂砍51+6+6,哈登创NBA历史!阿特金森:你该醒醒了!

运筹帷幄的篮球
2026-11-21 15:16:57
《丑狐》让相由心生具像化了!网友:人一旦寒了心 脸也会跟着变垮

《丑狐》让相由心生具像化了!网友:人一旦寒了心 脸也会跟着变垮

陈意小可爱
2026-11-21 04:23:59
泽连斯基已明确表示:美国当然有能力支持乌克兰,美国找到了支持以色列的方法,支持各种防控设备、武器补给,也请你们这样支持乌克兰

泽连斯基已明确表示:美国当然有能力支持乌克兰,美国找到了支持以色列的方法,支持各种防控设备、武器补给,也请你们这样支持乌克兰

吉刻新闻
2026-11-21 15:06:43
从全网泪目到全网群嘲,赵本山只用了三天

从全网泪目到全网群嘲,赵本山只用了三天

梳子姐
2026-11-19 12:05:24
北京的第一批大龄未婚女性,已经搬进了养老院

北京的第一批大龄未婚女性,已经搬进了养老院

小怪吃美食
2026-11-21 10:55:17
美国发出全球通缉令,逮捕中国芯片科学家陈正坤,如今近况如何?

美国发出全球通缉令,逮捕中国芯片科学家陈正坤,如今近况如何?

凡知
2026-11-21 01:31:33
2026-11-21 16:15:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380615文章数 607743关注度
往期回顾 全部

数码要闻

狗子一泡尿主机直接变砖!网友:先别开机还有救

头条要闻

特朗普亚洲行后举行记者会 为与普京的"朋友"关系辩护

头条要闻

特朗普亚洲行后举行记者会 为与普京的"朋友"关系辩护

体育要闻

伦德伯格撞墙的力度真不轻

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

数码
健康
教育
亲子
公开课

数码要闻

高驰VERTIX 4运动手表曝光:1.47英寸AMOLED屏幕

医生眼里"很伤腰"的椅子,很多人天天坐

教育要闻

晚自习到底几点结束?武侯区给出的时间线,家长得看清

亲子要闻

流感季随寒流杀到致学龄儿童中招 专家:接种疫苗仍来得及!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版