网易首页 > 网易号 > 正文 申请入驻

比iPad还大、全球最大AI处理器刚刚更新了2代,A100看了会沉默

0
分享至

  

子豪 发自 凹非寺
量子位 报道 | 公众号 QbitAI

  还记得那个全球面积最大、整块芯片比键盘还大的AI超算处理器Cerebras WSE吗?

  刚刚,这款芯片发布了2代

  

  作为第二代晶圆级引擎, WSE-2以2.6万亿个晶体管和85万个AI优化内核,再次刷新记录。

  与一代WSE相比,WSE-2虽然在面积上没有变化(依然很大),二者看起来没什么差别。

  但是,芯片的所有性能特征,包括:晶体管数、内核数、内存、内存带宽和结构带宽,均比一代增加了一倍以上

有哪些升级?

  2019年8月,Cerebras推出了尺寸破纪录的AI芯片——“晶圆级引擎”(Cerebras Wafer Scale Engine,简称WSE),其中包含1.2万亿个晶体管。

  并且在2020年,展示了基于WSE的AI计算机CS-1,计算速度超Joule 200倍以上。

  我们将WSE-2与一代,以及A100进行了比较:

  

  可以看到,WSE-2有很大幅度的升级,采用了7nm制造工艺,多项数据都是一代的两倍之多

  比起英伟达的A100,WSE-2多了2.55万亿个晶体管;内核数是A100的123倍;缓存是其1000倍;可提供的内存带宽,则达到了A100的13万倍

  

为什么采用大芯片?

  据Cerebras官方网站介绍,

  当今最先进的模型,需要几天或几周的时间进行训练,并且通常在数十、数百甚至数千个GPU上进行分布式训练,以使训练时间更可控。

  这些庞大的处理器集群很难编程,并且面临通信和同步费用高的瓶颈。

  而WSE-2将用于业界最快的AI计算机CS-2。

  

  △Cerebras系统(图源:spectrum)

  CS-2专门为加速AI应用而设计,旨在实现快速、灵活的训练和低延迟的数据处理,可以在更小的空间和更低的功耗下,提供更高的计算性能。

  这使得CS-2拥有更高的计算密度、更快的内存和更高的带宽互连,从而将训练速度提升数个数量级、使推理的延迟更低,并且易于部署。

  Cerebras芯片,将集群的AI计算和内存资源带到单个设备上,一个CS-2的性能相当于整个GPU集群的性能,同时具有单个设备的简单性。

  CS-2在一个芯片上有85万个内核,提供了集群规模的速度,同时避免了通信缓慢的问题。

  同时这也意味着,即使是最大、最复杂的ML模型,也不需要分布式训练或并行编程,因此能节省数周的模型调整和配置时间。

  由于形成了最高带宽、最低延迟的通信结构,因此大型模型的实时推理延迟得以降低,无需量化、缩小规模和牺牲精度。

  

  △Cerebras系统

晶圆级引擎的应用

  此前,不少实验室与计算机中心已经部署了Cerebras WSE和CS-1。包括:

  爱丁堡大学的超级计算中心,利用WSE进行自然语言处理、基因组学和COVID-19的相关研究。

  在美国阿贡国家实验室(ANL),WSE被用于COVID-19研究、重力波检测和材料发现等;并且在癌症疗法研究中,使癌症模型的实验周转时间,减少了300倍以上。

  制药企业葛兰素史克的高级副总裁金·布兰森,则表示:

  

其增加了生成的编码器模型的复杂性,同时将训练时间减少了80倍。

  

  对于WSE-2的应用,

  国际调研公司Tirias Research首席分析师Jim McGregor认为:

  

“显然,对用于大型数据集的Cerebras晶圆级解决方案,有些公司和实体很感兴趣。
但是在企业层面,还有数百万的其他AI应用,以及一些Cerebras不能处理的情况,这就是英伟达拥有SuprPod和Selene超级计算机的原因。
“与英伟达相比,Cerebras更像是一个小众平台,二者的广度无法相提并论。”

  

  Moor Insights&Strategy的分析师Patrick Moorhead也表示:

  

“ Cerebras确实提供了承诺的核心……
不过Nvidia解决方案更加灵活,几乎可以安装在任何服务器机箱中。”

  参考链接:
[1]https://cerebras.net/
[2]https://venturebeat.com/2021/04/20/cerebras-systems-launches-new-ai-supercomputing-processor-with-2-6-trillion-transistors/
[3]https://spectrum.ieee.org/tech-talk/semiconductors/processors/cerebras-giant-ai-chip-now-has-a-trillions-more-transistors
[4]https://spectrum.ieee.org/semiconductors/processors/cerebrass-giant-chip-will-smash-deep-learnings-speed-barrier
[5]https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247528016&idx=3&sn=dad6e7289a017a9c67398a7a646393b6&chksm=e8d0d922dfa75034ae26f22d4033bbf22620b966a3d40a07f8486337963c1a6e497eddbe520a&token=2091891750&lang=zh_CN#rd

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐

被我们疯狂吐槽的“反人类设计”,其实人家设计的都有深意,网友:我们土了

RANDOSERU皮具志
2021-05-08 07:55:45

成本2.5亿日票房才26万,5天就被下映,张艺谋把这部烂片打惨了

王牌电影院
2021-05-06 19:46:38

阿里巴巴联合创始人蔡崇信筹款2.5亿美元,支持美国亚裔群体

APD亚太日报
2021-05-06 16:32:36

英国最担心的事情发生,中国战机亮相南美,“阻挠失败”在英沸腾

百姓关注
2021-05-08 20:18:50

过度参加综艺,沉迷于赚快钱,终究遭到了反噬

电影侦探社
2021-05-07 15:13:53

内娱第一恶臭综艺

电影通缉令
2021-05-07 15:23:36

鬼谷子曾说过,当人出现这三个征兆时,人生就开始走下坡路了

八姐论八卦
2021-05-06 20:00:59

所罗门群岛村民发现一只1公斤重青蛙 体格大小像人类婴儿

环球网资讯
2021-05-08 10:35:48

?精致优雅的搭配下,让她显得越发动人,气质更是一绝

妙想娱乐
2021-05-08 09:42:53

居然真给我看心动了?

橘子娱乐
2021-05-08 17:35:07

那些过来人告诉我们,男女之间睡过了,永远都不可能成为陌生人

民生热点
2021-05-08 07:31:04

《集结号》不为人知的幕后故事,一部电影引发邓超冯小刚十年恩怨

BenSir本色说
2021-05-08 08:07:30

即将官宣!1.1亿巨星续约5年,年薪持平C罗,巴萨+梅西迎重创

足球慢镜头
2021-05-08 07:50:35

前队友:伊布说他生涯只讨厌过三四个人,卡瓦尼是其中之一

冷眼观赛
2021-05-08 12:38:12

舌尖上的“避孕药”,多数女生都吃过,难怪肚子一直没有动静!

文化长河论
2021-05-08 20:15:01

半路夫妻婚后“同房”是什么感觉?三个女人说了大实话

黑暗系少女呀
2021-04-25 15:40:40

李伯含被查,央企反腐不停歇

大众日报
2021-05-08 07:36:30

幼儿园老师群里误发午餐照,虽然立刻撤回,却被很多家长看到了

生活大火锅
2021-05-08 12:09:08

因战斗力太强,这3名战士被禁止上前线,中国一位上榜,名字耳熟

蓬莱岛搞笑
2021-04-27 11:47:15

“甄嬛传”换女主角了!西拉米跟王后并肩站立,诗妮娜第一个出局

红袖说事
2021-05-08 01:11:02
2021-05-09 00:21:08
量子位
量子位
追踪人工智能动态
4867文章数 103595关注度
往期回顾 全部

科技要闻

鸿蒙OS首次登陆手机,亮点槽点都在这里

头条要闻

曾一线指导涉黑大案的"老公安"回家乡任省级领导

头条要闻

妻子多次出轨堂叔表叔 男子将其刺死61位村民联名求情

体育要闻

1996年乔丹差点加盟尼克斯的内幕

娱乐要闻

虞书欣晒露脐装自拍 性感可爱并存

财经要闻

汽车要闻

众筹成功 3秒破百的名爵纯电动超跑确定量产

态度原创

亲子
家居
旅游
房产
艺术

亲子要闻

上海迪士尼一员工扮演维尼熊遭孩子暴打,家长态度强硬

家居要闻

港男月入过万只能带妻儿住7平蜗居 在洗衣机上做饭

旅游要闻

关于大理,“五一”来过的游客这么说!

房产要闻

海口安居房申请,即日起可受理!

艺术要闻

徐良高:从历史和文化的角度认识三星堆