网易首页 > 网易号 > 正文 申请入驻

Frontier超算使用其37000个MI250X GPU中的3000个成功运行1万亿参数的LLM

0
分享至

Frontier超级计算机是世界领先的超级计算机,也是目前唯一正在运行的Exascale级超算。这台机器由 AMD 的 EPYC 和 Instinct 硬件驱动,不仅具有顶级的 HPC 性能,还是全球第二高效的超级计算机。预印本 Arxiv 上提交的一份报告显示,Frontier 超级计算机已通过"超参数调整"达到了训练一万亿个参数的能力,与GPT-4不相上下,树立了新的行业标杆。

我们先来简单回顾一下 Frontier 超级计算机的优势。ORNL的这台超级计算机从设计之初就采用了AMD的第三代EPYC Trento CPU和Instinct MI250X GPU加速器。它安装在美国田纳西州的橡树岭国家实验室(ORNL),由能源部(DOE)运营。目前,它使用 8,699,904 个内核实现了 1.194 Exaflop/s的速度。HPE Cray EX 架构结合了针对 HPC 和 AI 优化的第 3 代 AMD EPYC CPU、AMD Instinct 250X 加速器和 Slingshot-11 互连。在超级计算机 Top500.org 榜单上,Frontier 一直保持着第一的位置,显示了其统治力。

Frontier 所创下的新纪录是实施有效策略培训 LLM 和最高效地使用板载硬件的结果。该团队通过对 220 亿个、1750 亿个和 1 万亿个参数的广泛测试取得了显著的成果,这些数字是对模型训练过程进行优化和微调的结果。这些结果是仅仅使用了 3000 个 AMD 的 MI250X AI 加速器取得的,尽管这些加速器是相对过时的硬件,但还是显示出了其强大的性能。

更有趣的是,整个"前沿"超级计算机拥有 37000 个 MI250X GPU,因此可以想象使用整个 GPU 池为 LLM 提供算力时的性能。AMD 还即将在全新的超级计算机中采用其 MI300 GPU 加速器,并配备强大的 ROCm 6.0 生态系统,进一步加速人工智能性能。

服务器和数据中心领域的未来前景广阔,值得注意的是,Frontier 目前采用的硬件在业内并不算新。随着生成式人工智能领域的不断进步,未来市场显然需要更强的计算能力,这就是为什么为该领域设计的硬件的进步对下一代的发展至关重要。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1986年陈永贵病逝,追悼会规格成难题,邓小平只说了一句话,全场安静

1986年陈永贵病逝,追悼会规格成难题,邓小平只说了一句话,全场安静

寄史言志
2026-01-04 16:34:31
最高院:提供 “口交” “肛交”等进入式性服务,是否属卖淫行为?

最高院:提供 “口交” “肛交”等进入式性服务,是否属卖淫行为?

周军律师聊案子
2026-04-21 09:50:16
蒙古人为什么这么恨中国?四个大实话,听完别不舒服

蒙古人为什么这么恨中国?四个大实话,听完别不舒服

老鹈爱说事
2026-05-21 15:26:51
普京1亿超级游艇突发北逃!两艘军舰死死护航,北约全线跟踪

普京1亿超级游艇突发北逃!两艘军舰死死护航,北约全线跟踪

一曲一场談
2026-07-04 16:25:26
正在逼近的社会困局:老人多了,反而是养老院却迎来倒闭潮!

正在逼近的社会困局:老人多了,反而是养老院却迎来倒闭潮!

铭记历史呀
2026-07-04 17:43:04
世界杯冠军球衣失踪25年!家人泪洒法庭:和钱没关系,这是尊严

世界杯冠军球衣失踪25年!家人泪洒法庭:和钱没关系,这是尊严

无月可归辛
2026-07-04 20:23:25
出口11国、市占率近50%,韩国K-9到底凭什么成为如今最畅销的重炮

出口11国、市占率近50%,韩国K-9到底凭什么成为如今最畅销的重炮

战刃
2026-07-02 19:54:03
生日看尾数,福气藏不住,5个农历生日尾数,越老越享福。

生日看尾数,福气藏不住,5个农历生日尾数,越老越享福。

智慧生活笔记
2026-07-04 20:34:54
突发!Anthropic拟全面封禁地下通道

突发!Anthropic拟全面封禁地下通道

新智元
2026-07-04 09:20:40
苹果突发更新,给 iPhone 17 Pro 系列新增专属功能!

苹果突发更新,给 iPhone 17 Pro 系列新增专属功能!

XCiOS俱乐部
2026-07-03 13:00:18
出大事了,普京耐心已尽,俄报复行动升级,泽连斯基或只剩一条路

出大事了,普京耐心已尽,俄报复行动升级,泽连斯基或只剩一条路

青青衫书生
2026-07-04 17:08:24
部分二线名酒的暴雷还没正式拉开序幕,后面还会更加精彩

部分二线名酒的暴雷还没正式拉开序幕,后面还会更加精彩

阿诬品鉴白酒
2026-07-03 22:44:01
抢铜战迎来大逆转,疯狂囤货的美国捅了马蜂窝,中国亮出三张底牌

抢铜战迎来大逆转,疯狂囤货的美国捅了马蜂窝,中国亮出三张底牌

探索新高度
2026-07-04 05:25:46
18年了!汶川地震丢下学生逃跑的“范跑跑”,如今竟过成了这样?

18年了!汶川地震丢下学生逃跑的“范跑跑”,如今竟过成了这样?

一盅情怀
2026-05-14 09:05:26
以色列宣布:打死穆罕默德·纳伊姆·詹迪亚

以色列宣布:打死穆罕默德·纳伊姆·詹迪亚

每日经济新闻
2026-07-03 17:46:37
你们都是什么时候对男女之事开窍的?网友:果然还是拦不住有心人

你们都是什么时候对男女之事开窍的?网友:果然还是拦不住有心人

夜深爱杂谈
2026-02-21 21:37:02
WTT大满贯连爆3场冷门,女单卫冕冠军遭横扫,张本智和也惨败出局

WTT大满贯连爆3场冷门,女单卫冕冠军遭横扫,张本智和也惨败出局

十级搞笑选手
2026-07-04 15:22:18
高盛研判下半年市场:资金撤离七大科技巨头,半导体AI上游受青睐

高盛研判下半年市场:资金撤离七大科技巨头,半导体AI上游受青睐

热闻岛
2026-07-04 10:45:04
俄下届总统可能被敲定,普京恐提前“下岗”?中方或成最大赢家?

俄下届总统可能被敲定,普京恐提前“下岗”?中方或成最大赢家?

孤城落叶
2026-07-03 16:15:53
河南省政府对郑州市政府进行安全生产约谈

河南省政府对郑州市政府进行安全生产约谈

界面新闻
2026-07-04 07:37:51
2026-07-04 23:20:49
cnBeta.COM incentive-icons
cnBeta.COM
提供IT行业即时资讯
69030文章数 70223关注度
往期回顾 全部

科技要闻

韬定律论文V2版,充工程细节和实测数据

头条要闻

一家三口新疆自驾游突遇山洪 母子避险被冲走失联多日

头条要闻

一家三口新疆自驾游突遇山洪 母子避险被冲走失联多日

体育要闻

揭法国锋线最大优势 有人比姆巴佩还快?

娱乐要闻

白鹿打戏抠图惹非议 连累丞磊遭扒皮

财经要闻

韩国股市杠杆失控:450亿美元资金狂飙

汽车要闻

方程豹钛9内饰曝光 用上了长联屏设计/下半年上市

态度原创

家居
时尚
本地
艺术
军事航空

家居要闻

传奇筑 日常诗

别再说"露肩衣服 "难驾驭!看看这几组日常穿搭,大方有回头率

本地新闻

国内足球之旅?这座小城给你高分答案

艺术要闻

风格独特,美国具象画家Alan Feltus

军事要闻

普京宣布俄军“完全解放”卢甘斯克

无障碍浏览 进入关怀版