网易首页 > 网易号 > 正文 申请入驻

优化AI存储,又一减少内存用量技术出现!

0
分享至

来源:市场资讯

(来源:电子技术应用ChinaAET)

7月2日消息,如今的内存涨价已经失控,一年来价格涨了5-10倍,主要推动力就来自AI数据中心需求,但这波涨价缺货很可能也会遇到狙击,技术突破也是来自AI优化。

大家都知道AI大模型对内存的容量及带宽都有极高的需求,所以高性能AI芯片大多上了HBM内存,其用量是DDR5内存的2-3倍,导致了这一次的内存缺货涨价。

内存缺货因AI而起,最终解决还得靠AI本身,想要减少内存用量就得优化内存架构,OpenAI分拆出来的一个团队在这方面已经取得了重大突破,主要是内存效率方面的,技术很快会宣布。


虽然这个技术具体是啥没公布,但已经有AI领域的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应该不会陌生,V4价格能这么低的原因就是KVCache利用到了极致。

OpenAI的这个技术突破有可能也是在这方面作文章,既然内存又贵还缺货,那就减少对内存的需要,将数据放到容量更大、价格更低的NAND闪存芯片上。


如果再联系到业界此前在研究的HBF闪存,OpenAI很有可能这次会把这种高性能闪存推向实际部署,虽然延迟、写入速度上还无法跟HBM内存相比,但1638GB/s的读写带宽跟HBM4是一样的。

这个技术最终大规模部署的话,那么AI算力中心对内存的用量肯定会大幅减少,内存缺货、涨价的动力就严重受限了。

但是坏消息是这可能会加速闪存的涨价,只不过闪存本身的价格比内存低很多,权衡之下肯定还是优先减少内存用量。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
心理学有个残忍发现:越是老实的人,被人算计后越不能靠愤怒或示弱来反击;真正让对方害怕的,是掌握这两种“无声的报复”

心理学有个残忍发现:越是老实的人,被人算计后越不能靠愤怒或示弱来反击;真正让对方害怕的,是掌握这两种“无声的报复”

心理观察局
2026-07-03 07:29:20
哈梅内伊的国葬,他的儿子穆杰塔巴,面临着从政以来最恐怖的抉择

哈梅内伊的国葬,他的儿子穆杰塔巴,面临着从政以来最恐怖的抉择

阿芒娱乐说
2026-07-03 12:27:05
苹果新品官宣:7月4日,正式开售

苹果新品官宣:7月4日,正式开售

科技堡垒
2026-07-02 10:32:36
20 元勾走女教师,10 年睡 1242 个中国女孩:洋垃圾的底气是谁给的?

20 元勾走女教师,10 年睡 1242 个中国女孩:洋垃圾的底气是谁给的?

石辰搞笑日常
2026-06-14 10:25:00
终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

慧翔百科
2026-06-23 08:47:02
被耿同学点名的院士!宋尔卫在线出席顶级论坛:他还好吗?

被耿同学点名的院士!宋尔卫在线出席顶级论坛:他还好吗?

大江看潮
2026-06-30 13:06:24
今起坐飞机有变化!退改阶梯收费、行李尺寸统一,短途餐食改零食

今起坐飞机有变化!退改阶梯收费、行李尺寸统一,短途餐食改零食

原广工业
2026-07-02 04:17:45
林志颖捂了12年的kimi,首次公开正面照,网友:这脸,判若俩人……

林志颖捂了12年的kimi,首次公开正面照,网友:这脸,判若俩人……

可读
2026-06-25 23:21:52
14.38万起售卖爆了!MONA L03打破小鹏所有车型同期小订纪录

14.38万起售卖爆了!MONA L03打破小鹏所有车型同期小订纪录

快科技
2026-07-03 01:02:21
那些在坦克发动机上想走捷径的国家,最后都付出了什么代价?

那些在坦克发动机上想走捷径的国家,最后都付出了什么代价?

阿尢说历史
2026-07-01 14:12:44
渡边雄太:对主场疯狂球迷有预期;希望杨瀚森能长留NBA

渡边雄太:对主场疯狂球迷有预期;希望杨瀚森能长留NBA

懂球帝
2026-07-03 13:30:47
高市早苗临时改变主意,专机绕开印度东北邦,离中国藏南远一点

高市早苗临时改变主意,专机绕开印度东北邦,离中国藏南远一点

爱下厨的阿酾
2026-07-03 12:40:52
后来才明白,电动车充满电后不拔,不是充电,是在给电池“加班”

后来才明白,电动车充满电后不拔,不是充电,是在给电池“加班”

沙雕小琳琳
2026-07-02 19:46:52
进8球0失球!连续34场不败!不是阿根廷,法国最大夺冠劲敌出炉

进8球0失球!连续34场不败!不是阿根廷,法国最大夺冠劲敌出炉

篮球圈里的那些事
2026-07-03 13:29:58
记者:克洛普准备接受德国队主帅职位

记者:克洛普准备接受德国队主帅职位

懂球帝
2026-07-03 12:14:29
生阳气的3种食物,入伏前后多吃,把脾胃养好了,阳气也补足了

生阳气的3种食物,入伏前后多吃,把脾胃养好了,阳气也补足了

阿龙美食记
2026-07-01 13:22:59
詹姆斯离开湖人,为什么感觉所有人都很开心?

詹姆斯离开湖人,为什么感觉所有人都很开心?

鸣哥说体育
2026-07-03 12:05:11
从2026年7月1日起,全国将强制执行退休返聘及超龄员工,好事呀!

从2026年7月1日起,全国将强制执行退休返聘及超龄员工,好事呀!

福建睿平
2026-07-02 07:47:57
135公里刀片网背后,泰山是收门票者的山,还是人民的山?

135公里刀片网背后,泰山是收门票者的山,还是人民的山?

非虚构人间
2026-07-01 20:50:30
捷克CZ600+卡宾枪正式发布 山毛榉枪托 可换口径 突出轻量化设计

捷克CZ600+卡宾枪正式发布 山毛榉枪托 可换口径 突出轻量化设计

hawk26讲武堂
2026-07-02 12:47:41
2026-07-03 14:00:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
3892286文章数 8540关注度
往期回顾 全部

科技要闻

特斯拉交付超预期7.4万辆,股价却大跌7.5%

头条要闻

齐达内儿子被梅西打穿后一度崩溃 淘汰赛又被灌进2球

头条要闻

齐达内儿子被梅西打穿后一度崩溃 淘汰赛又被灌进2球

体育要闻

韩国人,为什么恨透了洪明甫?

娱乐要闻

黄晓明深夜约会美女,分手原因曝光

财经要闻

AI“鬼故事”不断,市场开始重估?

汽车要闻

极氪9X五座版官宣,如图!

态度原创

教育
数码
亲子
艺术
军事航空

教育要闻

高分扎堆,“分数通胀”是怎么产生的?

数码要闻

299元双8K旗舰款!雷神X7s Pro Max鼠标预售:全球首发PAW3955 Turbo

亲子要闻

这种情况如何破局?

艺术要闻

当代画家 张奇人物油画作品选

军事要闻

美军“航母杀手”首次公开 此前从未展示

无障碍浏览 进入关怀版