网易首页 > 网易号 > 正文 申请入驻

电厂 | 英伟达再推「中国特供版」AI 芯片:人工智能竞争中的猫鼠游戏

0
分享至

记者 肖余林

编辑 高宇雷

在中美人工智能的激烈竞争中,英伟达成为了游弋在政治和商业中寻找利益最大化的「鲨鱼」。

美国商务部产业与安全局(BIS) 1017 新规已经在 11 月 16 日生效,英伟达针对中国市场推出的「特供版」 A800 和 H800 芯片遭到出口合规限制,无法向中国客户出售。

然而,11 月 9 日有消息透露,英伟达将推出三款针对中国市场的 AI 芯片,包括 H20、L20 和 L2 三款,并列出了详细规格。

随后,英伟达在业绩会上确认,将努力争取高性能产品在中国市场的销售许可,也会研发更多合规的数据中心产品组合。「我们正在努力扩展我们的数据中心产品组合,以提供不需要许可证的新法规合规解决方案,这些产品可能会在未来几个月内上市。」

11月 24 日,据路透社报道,两位消息人士透露,英伟达已告知中国客户,H20 发布时间将推迟到明年第一季度。L20 芯片不会延期,并将按照原定计划推出。消息人士无法分享有关 L2 状态的信息。

1017新规是 BIS 推出的第二个版本的限制措施,这一版本比第一个版本更加严格,根据芯片的总处理性能(TPP)和性能密度划出限制条件,符合任一条件即认为处于管制范围。

特供版如何突破封锁

根据 Semianalysis 透露的规格参数,H20、L20 和 L2 三款芯片的性能被大幅压缩。

以 H20 为例,这款芯片的峰值算力最大理论值仅为 296 TFLOPs,数字上还不如消费级的游戏显卡。作为比较,热门的 H100 芯片的这一数值为 1979 TFLOPs,消费级的 RTX 4090 显卡为 661 TFLOPs。

这样的压缩显然是为了限制总处理性能和性能密度,以避开精心设计的封锁条件:

- H20的总处理性能为2368,性能密度仅为 2.9,小于 3.2 的管制许可值;

- L20的总处理性能为1912,但性能密度为 3.1,小于 3.2 的管制许可值;

- L2的性能密度为 5.2,但总处理性能仅为1544,小于 1600 的管制许可值。

大幅压缩参数之后,三款芯片仍然有众多耐人寻味的地方。

H20有比 H100 更高的缓存和带宽,支持英伟达第四代 NVLink 连接,连接速度保留了 900 GB/s 满速。这保证了多卡增强效果的实现,在实际多卡互联环境中,H20 组合性能接近 H100 的 50%。

不过,H20 的侧重点在模型推理环节,不需要承担 H100 那样的预训练任务。由于采用了与英伟达下一代 GPU 相似的核心,Semianalysis 推算,H20 在大模型推理运算中比 H100 还要快 20%,这将极大提高大模型产品在应用端的表现。比如,运行 Meta 700 亿参数的 LLAMA 模型需要两个 H100,但只需要一个 H20。

L20和 L2 分别替代此前遭到管制的 L40 和 L4,更适合用于工作站等领域。L20 和 L2 采用了跟 RTX 4090 同样的 Ada Lovelace 架构,其中,L20 使用的是 RTX 4090 同款的 AD102 GPU 核心。

此前国内有 RTX 4090 显卡 DIY 工厂被曝出,买家大量囤积 RTX 4090,通过拆解出 GPU 核心,再外置鼓风机风冷的方式,让多卡组合适配 AI 服务器工作。

考虑到国内客户的 DIY 能力,且由于 L20 在生产中不涉及产能受限的 CoWoS 封装环节,因此能够短时间内推向市场,缓解很多买家的算力慌。

谁还需要「特供版」

联想集团董事长兼 CEO 杨元庆曾表示,目前大多数大模型都在算力较强的公有云上训练。未来,大模型的计算负载将逐渐由云端向边缘侧和端侧下沉。越来越多的人工智能的推理任务将会在边缘和设备端进行。

英伟达的第一代「特供版」芯片 A800 和 H800 有 11 个月的出口窗口期,平台公司利用这一窗口期大量采购。市场上有消息称,百度、字节跳动、腾讯和阿里已向英伟达订购了价值 10 亿美元的共约 10 万张 A800 芯片,将于年内交付,另外价值 40 亿美元的芯片将于 2024 年交付。腾讯曾发布公开声明称,储备了大量的 A800 和 H800 芯片,足够支持好几套 AI 大模型的训练。

可以预见,第一代「特供版」将成为公有云算力的重要来源,承担大模型的预训练任务。第二代「特供版」把重点放在了大模型推理运算环节上,这一环节更靠近应用端,对算力要求相对于模型预训练更低,更多的要求是在短时间内处理大量的输入数据。

AI大模型训练涉及到众多环节,从 OpenAI 到创业公司,普遍面临缺少训练数据的情况,特别是垂直领域当中与业务有关的数据。

电厂记者从业内人士那里了解到,很多行业在上一轮数字化转型当中没能做好,导致在 AI 落地方面缺少数据。低数据量会造成应用端表现差,直接影响前端的表现,进而无法沉淀更多数据出来。

因此,中小企业和个体创业者急需大模型落地,用相对不高的算力启动,用时间把数据跑出来。这次的三款特供版芯片,也针对这一趋势,面向更多「边缘」客户。

英伟达此前就有布局,为了帮助更多没有拿到足够算力的中小企业和个体创业者。英伟达在 10 月份针对 Windows 平台推出了 TensorRT-LLM,这个模型可以帮助运行在 Windows 设备的大模型更好地利用 RTX 显卡和 GPU 的性能。根据英伟达的说法,这样的设备超过 1 亿台。

「特供版」还是「烟雾弹」

美国商务部 1017 新规的生效时间是 11 月 16 日,正是传言中 H20 的发布日期。H20 「原计划」将在 11 月 16 日发布,在 12 月量产,但后来推迟到明年一季度。

黄仁勋在业绩会上也提到,「我们将确保与美国政府充分讨论我们在这些产品上的意图。」很显然,英伟达要留出时间窗口,等待监管方的反应。那么,H20 首先是一枚烟雾弹。

从 BIS 1017 新规中表现出的「哪里漏了补哪里」的特点来看,英伟达在与 BIS 的这场猫鼠游戏中占有主动权,有更丰富的技术储备和应对思路。一旦 H20 进入安全通道,更多「特供版」也会陆续到来。

可另一方面,即便英伟达主动推出「特供版」,也要考虑市场容量和产能。

英伟达 H100 还在消化订单,H200 排队到明年二季度,整个供应瓶颈卡在台积电的 CoWoS 封装环节。H20 同样使用台积电的 CoWoS 封装,这意味着 H20 即便绕过监管,交付时间也可能比传闻更长。

由于出口限制措施,英伟达没有在算力上实现突破,但 H20 在中国市场仍然是一款一鱼多吃的产品。H20 买家将更依赖 NVLink 技术,英伟达也能借此巩固自己 CUDA 软件平台的护城河。相应的,H20 买家在后续考虑国产替代时,就要承担额外的迁移成本。

等待时间越久,这枚「特供版」芯片的命运也会愈发扑朔迷离。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
拜登访华,意图何在?

拜登访华,意图何在?

日风的故事屋
2024-10-06 11:55:32
网曝有人收到2012年个税追缴通知书,需补税66元

网曝有人收到2012年个税追缴通知书,需补税66元

可达鸭面面观
2024-10-06 11:18:48
那英澳门演唱会座无虚席?曝找人填场100元现结,这一幕更尴尬

那英澳门演唱会座无虚席?曝找人填场100元现结,这一幕更尴尬

姜大叔侃球
2024-10-06 12:28:39
日本和广东同为1.2亿人口,日本创造4.2万亿GDP,广东是多少?

日本和广东同为1.2亿人口,日本创造4.2万亿GDP,广东是多少?

古史青云啊
2024-10-06 08:55:12
先和日本小孩互相问好,再用中文恶毒辱骂,拍这样的视频也能自豪

先和日本小孩互相问好,再用中文恶毒辱骂,拍这样的视频也能自豪

走读新生
2024-10-06 12:51:31
太突然!明星夫妻宣布离婚

太突然!明星夫妻宣布离婚

鲁中晨报
2024-10-06 08:57:05
内塔尼亚胡演讲拟大举进攻伊朗,以色列或在酝酿推翻伊朗现政权

内塔尼亚胡演讲拟大举进攻伊朗,以色列或在酝酿推翻伊朗现政权

今观天下
2024-10-06 08:28:28
河南一新娘哥嫂多要18万彩礼未果,亲友爬婚车阻拦?当地:细节有出入,已介入处置

河南一新娘哥嫂多要18万彩礼未果,亲友爬婚车阻拦?当地:细节有出入,已介入处置

极目新闻
2024-10-06 13:44:30
美国后悔降息了,他们发现自己成了中国股市上涨的催化剂

美国后悔降息了,他们发现自己成了中国股市上涨的催化剂

低调看天下
2024-10-06 10:13:38
热搜第一!网友:买不到,根本买不到

热搜第一!网友:买不到,根本买不到

鲁中晨报
2024-10-06 10:13:12
美官员评估:哈马斯领导人已不抱“生的希望”,意在对以色列造成更大杀伤

美官员评估:哈马斯领导人已不抱“生的希望”,意在对以色列造成更大杀伤

红星新闻
2024-10-06 11:43:14
特大新闻震撼发布!以色列传来惊人消息!

特大新闻震撼发布!以色列传来惊人消息!

日风的故事屋
2024-10-06 12:07:18
声称能瘫痪美国经济的78岁罢工领袖身家曝光:年薪90万美元,游艇比马斯克还多

声称能瘫痪美国经济的78岁罢工领袖身家曝光:年薪90万美元,游艇比马斯克还多

红星新闻
2024-10-06 17:54:19
潘玮柏上海的家公开大又豪,妻子全职在家,晒日花30万的贵妇生活

潘玮柏上海的家公开大又豪,妻子全职在家,晒日花30万的贵妇生活

阿纂看事
2024-10-06 13:57:31
伊能静回秦昊老家探亲,沈阳豪宅首曝光,又大又豪华客厅可以唱歌

伊能静回秦昊老家探亲,沈阳豪宅首曝光,又大又豪华客厅可以唱歌

缘浅娱深
2024-10-06 17:40:10
长江存储突破美国封锁,芯片国产化成功

长江存储突破美国封锁,芯片国产化成功

风向观察
2024-10-06 14:27:15
有网传消息称: 全国450万个网格员可能面临撤销!

有网传消息称: 全国450万个网格员可能面临撤销!

现代春秋
2024-10-06 01:34:51
民宿老板回应哀牢山爆火:国庆期间房源天天爆满,平时约90元一晚涨到约240元

民宿老板回应哀牢山爆火:国庆期间房源天天爆满,平时约90元一晚涨到约240元

上游新闻
2024-10-06 17:21:18
真主党第四任头领又被击杀;内塔尼亚胡发表战斗宣言

真主党第四任头领又被击杀;内塔尼亚胡发表战斗宣言

近距离
2024-10-06 09:40:53
国内“最傻”5A景区,不收门票,吃饭只要2块,住宿仅需25元

国内“最傻”5A景区,不收门票,吃饭只要2块,住宿仅需25元

匿旅
2024-10-06 09:08:27
2024-10-06 19:58:44
电厂
电厂
探索科技公司的未知,为你充电
1249文章数 1021关注度
往期回顾 全部

科技要闻

大众CEO:欧盟应让中国车企投资 而非加关税

头条要闻

本地男子到哀牢山探险因恐惧提前折返:没人敢去第二次

头条要闻

本地男子到哀牢山探险因恐惧提前折返:没人敢去第二次

体育要闻

最生猛的世界杯冠军,不穿衣服爬雪山

娱乐要闻

易烊千玺、王俊凯、王源:王俊凯或需换新路线

财经要闻

股市彻底火了!小城“股民”国庆实探

汽车要闻

最高续航901km 岚图知音将于10月13日上市

态度原创

艺术
健康
手机
本地
公开课

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

花18万治疗阿尔茨海默病,值不值?

手机要闻

vivo X200系列定制三块屏:花了好多个亿

本地新闻

云游中国|还有谁不知道 荆门人有属于自己的仙本那

公开课

眼花失眠抽筋,你的肝该调调了

无障碍浏览 进入关怀版