网易首页 > 网易号 > 正文 申请入驻

16000颗H200超级芯片!最强云计算亚马逊云科技和英伟达合体了

0
分享至

金磊 克雷西 发自 拉斯维加斯
量子位 | 公众号 QbitAI

最强云计算、最快GPU,联手出大招了!

就在刚刚,云计算霸主亚马逊云科技英伟达宣布:

推出首款云AI超级计算机,结合了英伟达H200 Grace Hopper超级芯片和亚马逊UltraCluster扩展功能。



据悉,该合作项目代号为Project Ceiba,而这个超级计算机是配备了H200 NVL32与Amazon EFA互连技术的大规模系统,将部署在亚马逊云科技之上。

它共计搭载了16384颗英伟达H200超级芯片,能够处理65 exaflops速度等级的AI运算。

为了这个合作项目,老黄也是亲自来到亚马逊云科技年度盛会re:Invent的现场站台,重视程度可见一斑。

△左:亚马逊云科技 CEO:Adam Selipsky;右:英伟达CEO:黄仁勋



与此同时,亚马逊云科技也成为了英伟达H200 Grace Hopper超级芯片的第一个大客户。

而之所以两大巨头要这般合作,双方的目标也是非常明确——剑指生成式AI

亚马逊云科技CEO Adam Selipsky在现场表示:

我们与英伟达合作了13年,推出了最广泛的英伟达 GPU解决方案可用于各种工作负载,包括绘图、游戏、HPC高性能计算、机器学习,以及现在的生成式AI。
我们将会让亚马逊云科技成为运行GPU的最佳云端环境。

黄仁勋也对生成式AI与云计算发表了他的观点:

生成式AI正改变各种云端负载,为多元内容创作在底层注入加速计算动能。
我们共同目标是为每个客户提供具有成本效益、先进生成式AI,为此英伟达与亚马逊云科技在整个计算堆栈展开合作,横跨AI基础设施、加速库、基础模型以及生成式AI服务。

而这次强强联手的合作,也仅仅是亚马逊云科技 re:Invent活动中的一隅。

现在,我们就来一同看下更多的重磅发布。

亚马逊云科技升级AI芯片

除了与英伟达展开合作之外,亚马逊云科技自家的芯片也迎来了大升级。

首先便是发布了升级后的通用AI芯片——Graviton4



据了解,与上一代Graviton3相比,Graviton4的计算性能提高了30%,核心数量增加了50%,内存带宽增加了75%。



Graviton4带来的一个新转变之一,便是通过对所有快速物理硬件接口的全面加密,这就显著提升了它的安全性。

亚马逊云科技透露,这款芯片将被应用于内存优化型的Amazon EC2 R8g实例,帮助客户提升高性能数据库、内存缓存和大数据分析工作的效率。

而且,R8g实例的大小更大,其vCPU和内存容量比前一代的R7g实例最多增加了三倍。

搭载Graviton4的电脑预计在接下来的几个月内上市。

亚马逊云科技进一步表示:

自从大约五年前推出Graviton项目以来,他们已经生产了超过200万个Graviton处理器。
而且,亚马逊云科技 EC2的前100位用户都已经选择使用Graviton,这证明了其在市场上的受欢迎程度。

亚马逊云科技在大会中带来的第二款升级芯片,则是Trainum2

如其名,这款芯片的主要用途就是针对拥有超大参数模型的训练。



相比于上一代Trainium1,Trainum2在速度上快出了4倍,同时在能效方面也有2倍的提升。

在亚马逊云科技内部,Amazon EC2 Trn2实例将采用的正是Trainium2,每个实例内置16个Trainium芯片。

这些Trn2实例的目的是为了支持客户在下一代EC2 UltraCluster中大规模扩展,最多可达10万个Trainium2芯片,通过亚马逊云科技弹性织物适配器(EFA)的petabit级网络连接,能够提供高达65 exaflops的强大计算能力。

有了这种规模,客户就可以在数周而不是数月时间内训练3000亿参数的大语言模型!

正如Claude背后公司Anthropic的联合创始人Tom Brown所述:

我们正在与亚马逊云科技密切合作,使用Trainium芯片开发我们未来的基础模型。
Trainium2将帮助我们大规模构建和训练模型,我们预计它比第一代Trainium芯片快至少4倍,适用于我们的一些关键工作负载。

据悉,Trainium2将从明年开始用于支持新的服务。

Amazon Q:亚马逊工作版ChatGPT出道

在生成式AI方面,亚马逊云科技还发布了自家工作版的ChatGPT——Amazon Q,重新构想了未来的工作方式。

Amazon Q主要面向的是企业用户,它让员工可以利用公司的数据和专业知识获得答案、解决问题。



Amazon Q基于亚马逊云科技17年的知识来训练,所以很懂亚马逊云科技,于是在使用亚马逊云科技过程中,可以随时随地提供帮助。

Adam说,Amazon Q改变了开发人员在亚马逊云科技上构建、部署和操作应用程序的方式。

它可以通过提出问题来了解亚马逊云科技功能和工作原理,或者确定最佳服务。



Amazon Q不仅能介绍亚马逊云科技的各项功能,还可以根据用户需求,提供利用亚马逊云科技各项服务构建应用的方法。



在使用亚马逊云科技遇到问题和故障时,Amazon Q也可以一键分析原因并想办法解决。



在亚马逊云科技控制台之外,Amazon Q还可以在IDE中调用,实时帮助开发者生成或解释代码,并进行测试和优化。



更为精彩的是,Amazon Q可以完成从计划到代码,再到完成后的测试和用户文档的全流程自动开发

假如要给应用添加新功能,开发人员只需要用自然语言描述需求,然后检查Amazon Q给出的建议并进行必要调整就可以了。



不过,开发不是一劳永逸,程序的维护和升级也至关重要。

而如果这之中涉及到了编程语言的更新迭代,开发者可能需要花费几个月甚至几年对代码进行逐行调整。

而Amazon Q的代码转换功能,将这一时间缩短到了几分钟。

开发人员只需在 IDE 中打开他们想要转换的代码,然后要求Amazon Q对其进行“/transform”即可。

最近,5名开发人员用Amazon Q在短短两天内将1000个应用从Java 8升级到Java 17,平均每个用时还不到10分钟。



除了面向开发者的Builder版本, Amazon Q还有为商业从业者提供的Business版本。

可以在亚马逊QuickSight数据分析平台和亚马逊云科技 Connect中使用。



将Amazon Q连接到企业系统,还能得到定制版的Q,我们还可以看到Amazon Q帮助用户分析了下游客户的需求。



在此基础之上,Amazon Q更是可以直接充当使用者的客服代表,解决下游用户提出的问题。



做个总结的话,Business版本的Amazon Q一共拥有四重“专家”身份:

亚马逊云科技专家,对亚马逊云科技的每一个功能、模块都有充分的了解。
生意专家,能够分析行业状况下游客户的需求。
商业智能专家,能够对大量商业数据进行分析。
客服专家,对用户企业情况充分了解,可以充当智能客服工作。



价格方面,Business和Builder版本的价格分别是每用户每月20美元和25美元。

还有其它发布

与这些芯片和聊天机器人Amazon Q同时发布的,还有全新的云存储服务亚马逊云科技 S3 Express One Zone。

它的速度是标准版S3的10倍,可以在1分钟之内处理数百万次请求,请求成本和计算成本分别降低了50%和60%。



工具层面,生成式AI应用搭建平台Bedrock也值得关注。

Adam将其称作最简单的利用大模型搭建和扩展生成式AI的方式。



此外还有和Trainium芯片配套的ML优化SDK 亚马逊云科技 Neuron。

排行前100的ML模型中,亚马逊云科技 Neuron支持93种。



按照基础设施层、工具层和应用层这三个层级进行划分,此次发布中涉及生成式AI的产品都在下面这张图里了:



One More Thing

据说这届亚马逊云科技的re:Invent活动吸引了来自全球的5万多人。

来,感受一下Keynote结束后的人山人海……



参考链接:
[1]https://press.aboutamazon.com/2023/11/aws-unveils-next-generation-aws-designed-chips
[2]https://press.aboutamazon.com/2023/11/aws-and-nvidia-announce-strategic-collaboration-to-offer-new-supercomputing-infrastructure-software-and-services-for-generative-ai

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
266元/公斤!浙江网友惊到:今年这么早上市?马上大降价

266元/公斤!浙江网友惊到:今年这么早上市?马上大降价

新民晚报
2024-03-05 18:04:18
疑似小米汽车SU7售价曝光!比极氪001便宜5万,配置更丰富

疑似小米汽车SU7售价曝光!比极氪001便宜5万,配置更丰富

网上车市
2024-03-05 14:13:20
谁敢动俄罗斯?关键时刻,中国对俄罗斯作出重大承诺!

谁敢动俄罗斯?关键时刻,中国对俄罗斯作出重大承诺!

星辰故事屋
2024-03-04 19:54:10
武汉女教师生下脑瘫儿后被丈夫抛弃,19年后儿子考上北大

武汉女教师生下脑瘫儿后被丈夫抛弃,19年后儿子考上北大

大佬日志
2024-03-05 08:00:08
3月5日,2024年养老金调整消息出炉了,预计涨幅是多少?

3月5日,2024年养老金调整消息出炉了,预计涨幅是多少?

小强财艺
2024-03-05 17:19:33
缅北电诈头目刘阿宝狱中去世:罪恶人生终结,正义终会降临

缅北电诈头目刘阿宝狱中去世:罪恶人生终结,正义终会降临

娱乐帝皇丸
2024-03-05 09:00:24
越闹越大!快递驿站整体瘫痪,商家:快递涨1元,我给消费者涨5元

越闹越大!快递驿站整体瘫痪,商家:快递涨1元,我给消费者涨5元

坦然风云
2024-03-05 11:17:51
“形似外星人”的木乃伊曝光 研究者:有明显脐带,具有哺乳动物的特征

“形似外星人”的木乃伊曝光 研究者:有明显脐带,具有哺乳动物的特征

红星新闻
2024-03-05 19:09:31
东北5人携带十箱啤酒去海南,一路喝到三亚,铁路部门回应

东北5人携带十箱啤酒去海南,一路喝到三亚,铁路部门回应

华庭讲美食
2024-03-05 12:09:44
天选之人!宁波一法院某岗位只招1人,13人先后放弃,最终录取第17名

天选之人!宁波一法院某岗位只招1人,13人先后放弃,最终录取第17名

可达鸭面面观
2024-03-05 14:16:31
菲律宾故意冲撞中国海警证据公布

菲律宾故意冲撞中国海警证据公布

环球网资讯
2024-03-05 16:10:19
萨莉亚:外卖平台永远的痛

萨莉亚:外卖平台永远的痛

新旅界
2024-03-05 09:52:07
小S守灵7小时后首发声,和老公牵手离开灵堂,头顶白发令人心疼!

小S守灵7小时后首发声,和老公牵手离开灵堂,头顶白发令人心疼!

西瓜爱娱娱
2024-03-05 16:28:43
政府花人民的钱不道德!米莱关闭国家喉舌:百姓吃不饱饭还吹喇叭

政府花人民的钱不道德!米莱关闭国家喉舌:百姓吃不饱饭还吹喇叭

大风文字
2024-03-05 17:02:07
震惊!“核酸大王”张核子入驻抖音,声称让人类寿命再延长10年…

震惊!“核酸大王”张核子入驻抖音,声称让人类寿命再延长10年…

火山诗话
2024-03-05 18:47:52
禁止中国人进入! 空客突然“翻脸”, 5466亿元订单换来一地鸡毛!

禁止中国人进入! 空客突然“翻脸”, 5466亿元订单换来一地鸡毛!

小石夫妇
2024-03-05 02:45:48
首都机场:惨淡经营!

首都机场:惨淡经营!

民航之翼
2024-03-04 16:15:54
马来西亚总理再批美西方强迫他国选边站,称“不希望被任何势力主宰”

马来西亚总理再批美西方强迫他国选边站,称“不希望被任何势力主宰”

极目新闻
2024-03-05 12:29:42
政协委员周小平建议:福建省公安厅对“厦金撞船事件”立案侦查,公安部督办

政协委员周小平建议:福建省公安厅对“厦金撞船事件”立案侦查,公安部督办

不掉线电波
2024-03-05 19:07:35
3月5日俄乌最新:克里米亚遭大规模袭击,黑海舰队再失大型战舰

3月5日俄乌最新:克里米亚遭大规模袭击,黑海舰队再失大型战舰

西楼饮月
2024-03-05 17:46:06
2024-03-05 19:54:44
量子位
量子位
追踪人工智能动态
9122文章数 174975关注度
往期回顾 全部

科技要闻

Claude 3为何能媲美GPT-4?

头条要闻

台媒:3艘大陆海警船2月27日罕见现身台湾东部海域

头条要闻

台媒:3艘大陆海警船2月27日罕见现身台湾东部海域

体育要闻

亚洲第一后腰,凭什么征服英超?

娱乐要闻

郭碧婷路透曝光,双下巴明显有贵妇范

财经要闻

2024年怎么干?一图看懂!

汽车要闻

1.5T动力+新配色 新408龘龘款3月18日上市

态度原创

手机
旅游
教育
亲子
公开课

手机要闻

闷声发大财!传音2023收入超过600亿:成为全球第五大手机厂商

旅游要闻

2024世界旅游联盟·海南会员日5日启幕

教育要闻

信息图历史

亲子要闻

丈夫帮妻子涂抹妊娠油,这涂抹油的方式,就差洒孜然粉和辣椒面了

公开课

何为人生第一等事?

无障碍浏览 进入关怀版