网易首页 > 网易号 > 正文 申请入驻

AMD发布新GPU加速卡Instinct MI325X:八卡2TB HBM3E、FP8性能超每秒2亿亿次

0
分享至

快科技10月11日美国旧金山现场报道:

在Advancing AI 2024大会上,AMD正式发布了新款GPU加速卡"Instinct MI325X"。

它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。



【硬件规格、性能篇】



MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB,还是八颗,但单颗容量从24GB增至32GB。

同时,带宽从5.3TB/s来到了6TB/s,同样增加了大约13%,Infinity Fabric总线的带宽则还是896GB/s。

性能方面倒是没啥变化,还是FP16 1.3 PFlops(每秒1300万亿次)、FP8 2.6 PFlops。

很自然的,核心规格也是原封不动:5nm XCD模块搭配6nm IOD模块,3.5D封装,1530亿个晶体管,304个计算单元。

不过,AMD透露MI325X的功耗达到了1000W,相比MI320X增加了750W。



MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。

这个规模对比NVIDIA H200 HGX,分别有80%、30%、30%的优势。




对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%。

训练性能方面,单卡可领先H200 10%,八卡平台则是持平。


MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。

【生态伙伴、软件篇】



GPU加速器这样的产品要想成功,不但要有强大的硬件规格与性能,甚至更重要的还有两点,一是生态合作,二是软件支持。

生态方面,AMD Instinct系列的"朋友圈"不断壮大,领先的OEM整机厂商、云服务厂商、AI方案厂商都选择了AMD,那些我们熟悉的行业巨头名字都在这份越来越长的名单中。

尤其是微软、OpenAI、Meta,都在部署越来越多的Instinct平台。


软件方面,AMD ROCm开发平台是一套完整的AI软件堆栈,硬件之上,运行时、编译器、开发工具、库、AI框架、AI模型与算法一应俱全。

AMD ROCm的进化速度也在加快,新特性新功能不断加入进来,不但已经支持全部重要的AI框架与模型,还在不断优化对生成式AI的支持,包括新的算法、新的库等等,对开发者也越来越友好。



ROCm开发平台的性能也在不断优化提升,最新的6.2版本对比6.0版本,不同大模型的训练性能提升了1.7-1.9倍,平均约1.8倍;推理性能更是提升了1.9-2.8倍,平均约2.4倍。

这些都是无需升级硬件,完全靠软件优化得来的,可以说是"白捡"。


同时,AMD与开发者社区一直保持着良好、深度的合作,也是最大的贡献者之一,尤其是在PyTorch机器学习库、Triton编程语言和编译器上提供了及时、全面的支持。

AMD一直坚持开放开源的原则,不但自己的诸多技术对外公开,还全力支持着开源社区,不断壮大开源的力量。



以MI300X为例,上机无需任何调试适配,就能支持超过100万个生成式AI模型,尤其是第一时间支持Llama 3.1/3.2等领先大模型的最新版本。

良好的支持当然不仅仅是能用,更是好用,比如Llama 3 405B大模型上,MIX300X的延迟相比NVIDIA H100有着1.2倍的领先。


顺带一提,AMD近期还以6.65亿美元的价格,完成了对欧洲最大的私人AI实验室Silo AI的收购,获得了全面的端到端AI解决方案、约300名AI专家,势必会大大增强AMD在欧洲的AI业务实力,分析人士认为有望超越NVIDIA。

附MI325X官方精美图赏——








特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
低估她了!裂开了,大号水蜜桃倾巢而出,竟有火辣身材

低估她了!裂开了,大号水蜜桃倾巢而出,竟有火辣身材

吃瓜党二号头目
2024-10-26 09:08:42
我发誓再也不住民宿了!!!

我发誓再也不住民宿了!!!

穷游网
2024-10-21 11:06:55
历史重演!美大选再闹“黑幕”?奥巴马急了,事情果然不简单!

历史重演!美大选再闹“黑幕”?奥巴马急了,事情果然不简单!

锐锐资讯
2024-11-04 22:06:56
美国大选前最后一天,候选人都在做什么?哈里斯一天穿5城,特朗普一天跨三州

美国大选前最后一天,候选人都在做什么?哈里斯一天穿5城,特朗普一天跨三州

红星新闻
2024-11-05 11:08:30
美国大选最后冲刺:五任总统大乱斗!首次允许合法押注,平台显示:特朗普胜选率为51%,哈里斯胜选率为49%

美国大选最后冲刺:五任总统大乱斗!首次允许合法押注,平台显示:特朗普胜选率为51%,哈里斯胜选率为49%

每日经济新闻
2024-11-04 20:11:10
罕见暴跌87%!跑车界“皇后”中国市场月销仅38辆,这款车报价降至50.08万元起!发生了什么?

罕见暴跌87%!跑车界“皇后”中国市场月销仅38辆,这款车报价降至50.08万元起!发生了什么?

每日经济新闻
2024-11-05 08:23:05
明日“绝日”,记得:4事不做,2地不去,迎冬接福,老传统别丢了

明日“绝日”,记得:4事不做,2地不去,迎冬接福,老传统别丢了

神牛
2024-11-05 08:18:33
2020年保密到期,中央首长透露:毛岸英真相,终于能向外界公开了

2020年保密到期,中央首长透露:毛岸英真相,终于能向外界公开了

历史有些冷
2024-11-01 20:00:02
恰逢美国大选当天,解放军正式公布国之重器,对美传递强烈信号

恰逢美国大选当天,解放军正式公布国之重器,对美传递强烈信号

说天说地说实事
2024-11-05 19:02:27
捧红一堆京圈大佬,抛妻弃女爱上19岁女生,66岁他风流不断依旧渣

捧红一堆京圈大佬,抛妻弃女爱上19岁女生,66岁他风流不断依旧渣

吐不满的痰娱
2024-10-23 23:02:09
炮决张成泽绝密真相:拍三俗影片 与金正恩枪战 只为一个女人!

炮决张成泽绝密真相:拍三俗影片 与金正恩枪战 只为一个女人!

贰文
2023-12-09 22:30:08
莎莎收黑天鹅蛋糕寓意很好,林诗栋留言有梗,网友:是大头送的吗

莎莎收黑天鹅蛋糕寓意很好,林诗栋留言有梗,网友:是大头送的吗

圈里的甜橙子
2024-11-05 19:06:11
震惊!“备胎茅台”现形,海关揭露不为人知的秘密!

震惊!“备胎茅台”现形,海关揭露不为人知的秘密!

椰青美食分享
2024-11-05 10:17:44
福建一男子邀姐夫家中做客,不料引狼入室,洗澡时妻子趁机出轨

福建一男子邀姐夫家中做客,不料引狼入室,洗澡时妻子趁机出轨

青丝人生
2024-08-11 22:18:59
“原本一针难求的九价疫苗如今却无人问津”引热议,评论区炸锅

“原本一针难求的九价疫苗如今却无人问津”引热议,评论区炸锅

阿康四岁啦
2024-11-02 12:38:40
能跟吕布过100招的10个高手,仅1人能胜吕布,其他9人如何排名?

能跟吕布过100招的10个高手,仅1人能胜吕布,其他9人如何排名?

枫叶的枫1516
2024-11-04 18:41:18
女子失联12天通风井下获救,丈夫耳语“千万别睡,儿子还在找你”|封面头条

女子失联12天通风井下获救,丈夫耳语“千万别睡,儿子还在找你”|封面头条

封面新闻
2024-11-04 21:08:12
国内油价调整消息:今日油价下调!今天11月6日全国柴油汽油价格

国内油价调整消息:今日油价下调!今天11月6日全国柴油汽油价格

有料财经
2024-11-06 00:05:11
炸裂!内地游客香港换钱被骂穷女服务员照片流出挺美,就是太势利

炸裂!内地游客香港换钱被骂穷女服务员照片流出挺美,就是太势利

鋭娱之乐
2024-11-05 12:28:52
武汉楼市全军覆没,武汉楼市10月成交量突破10000套

武汉楼市全军覆没,武汉楼市10月成交量突破10000套

有事问彭叔
2024-11-05 20:54:42
2024-11-06 01:38:44
快科技
快科技
一起关注每日科技热点
88199文章数 259183关注度
往期回顾 全部

数码要闻

提前到货的PS5 Pro零售商披露新机配置:16.7 teraflops GPU、2TB SSD

头条要闻

普京在莫斯科会见朝鲜外务相 双方发言多涉及俄乌问题

头条要闻

普京在莫斯科会见朝鲜外务相 双方发言多涉及俄乌问题

体育要闻

一个想改变中国足球的日本人

娱乐要闻

周雨彤风波升级!阴阳怪气遭全网怒怼

财经要闻

超配!高盛:AH股未来一年回报率20%

科技要闻

字节跳动上半年营收直逼Meta:TikTok狂飙

汽车要闻

新款别克世纪将11月12日上市 预售价48.99万起

态度原创

本地
房产
手机
健康
公开课

本地新闻

塞上青城|是课本里的风吹草低见牛羊

房产要闻

爆料!珠城顶豪凯旋新世界,即将上新!

手机要闻

红米K80系列压力变大?只因一加Ace5、iQOO Neo10 Pro再次被确认

花18万治疗阿尔茨海默病,值不值?

公开课

AI如何揭开大自然和宇宙的奥秘

无障碍浏览 进入关怀版