网易首页 > 网易号 > 正文 申请入驻

电厂 | 英伟达再推「中国特供版」AI 芯片:人工智能竞争中的猫鼠游戏

0
分享至


记者 肖余林

编辑 高宇雷

在中美人工智能的激烈竞争中,英伟达成为了游弋在政治和商业中寻找利益最大化的「鲨鱼」。

美国商务部产业与安全局(BIS) 1017 新规已经在 11 月 16 日生效,英伟达针对中国市场推出的「特供版」 A800 和 H800 芯片遭到出口合规限制,无法向中国客户出售。

然而,11 月 9 日有消息透露,英伟达将推出三款针对中国市场的 AI 芯片,包括 H20、L20 和 L2 三款,并列出了详细规格。

随后,英伟达在业绩会上确认,将努力争取高性能产品在中国市场的销售许可,也会研发更多合规的数据中心产品组合。「我们正在努力扩展我们的数据中心产品组合,以提供不需要许可证的新法规合规解决方案,这些产品可能会在未来几个月内上市。」

11月 24 日,据路透社报道,两位消息人士透露,英伟达已告知中国客户,H20 发布时间将推迟到明年第一季度。L20 芯片不会延期,并将按照原定计划推出。消息人士无法分享有关 L2 状态的信息。

1017新规是 BIS 推出的第二个版本的限制措施,这一版本比第一个版本更加严格,根据芯片的总处理性能(TPP)和性能密度划出限制条件,符合任一条件即认为处于管制范围。


特供版如何突破封锁

根据 Semianalysis 透露的规格参数,H20、L20 和 L2 三款芯片的性能被大幅压缩。

以 H20 为例,这款芯片的峰值算力最大理论值仅为 296 TFLOPs,数字上还不如消费级的游戏显卡。作为比较,热门的 H100 芯片的这一数值为 1979 TFLOPs,消费级的 RTX 4090 显卡为 661 TFLOPs。


这样的压缩显然是为了限制总处理性能和性能密度,以避开精心设计的封锁条件:

- H20的总处理性能为2368,性能密度仅为 2.9,小于 3.2 的管制许可值;

- L20的总处理性能为1912,但性能密度为 3.1,小于 3.2 的管制许可值;

- L2的性能密度为 5.2,但总处理性能仅为1544,小于 1600 的管制许可值。


大幅压缩参数之后,三款芯片仍然有众多耐人寻味的地方。

H20有比 H100 更高的缓存和带宽,支持英伟达第四代 NVLink 连接,连接速度保留了 900 GB/s 满速。这保证了多卡增强效果的实现,在实际多卡互联环境中,H20 组合性能接近 H100 的 50%。

不过,H20 的侧重点在模型推理环节,不需要承担 H100 那样的预训练任务。由于采用了与英伟达下一代 GPU 相似的核心,Semianalysis 推算,H20 在大模型推理运算中比 H100 还要快 20%,这将极大提高大模型产品在应用端的表现。比如,运行 Meta 700 亿参数的 LLAMA 模型需要两个 H100,但只需要一个 H20。

L20和 L2 分别替代此前遭到管制的 L40 和 L4,更适合用于工作站等领域。L20 和 L2 采用了跟 RTX 4090 同样的 Ada Lovelace 架构,其中,L20 使用的是 RTX 4090 同款的 AD102 GPU 核心。

此前国内有 RTX 4090 显卡 DIY 工厂被曝出,买家大量囤积 RTX 4090,通过拆解出 GPU 核心,再外置鼓风机风冷的方式,让多卡组合适配 AI 服务器工作。

考虑到国内客户的 DIY 能力,且由于 L20 在生产中不涉及产能受限的 CoWoS 封装环节,因此能够短时间内推向市场,缓解很多买家的算力慌。


谁还需要「特供版」

联想集团董事长兼 CEO 杨元庆曾表示,目前大多数大模型都在算力较强的公有云上训练。未来,大模型的计算负载将逐渐由云端向边缘侧和端侧下沉。越来越多的人工智能的推理任务将会在边缘和设备端进行。

英伟达的第一代「特供版」芯片 A800 和 H800 有 11 个月的出口窗口期,平台公司利用这一窗口期大量采购。市场上有消息称,百度、字节跳动、腾讯和阿里已向英伟达订购了价值 10 亿美元的共约 10 万张 A800 芯片,将于年内交付,另外价值 40 亿美元的芯片将于 2024 年交付。腾讯曾发布公开声明称,储备了大量的 A800 和 H800 芯片,足够支持好几套 AI 大模型的训练。

可以预见,第一代「特供版」将成为公有云算力的重要来源,承担大模型的预训练任务。第二代「特供版」把重点放在了大模型推理运算环节上,这一环节更靠近应用端,对算力要求相对于模型预训练更低,更多的要求是在短时间内处理大量的输入数据。

AI大模型训练涉及到众多环节,从 OpenAI 到创业公司,普遍面临缺少训练数据的情况,特别是垂直领域当中与业务有关的数据。

电厂记者从业内人士那里了解到,很多行业在上一轮数字化转型当中没能做好,导致在 AI 落地方面缺少数据。低数据量会造成应用端表现差,直接影响前端的表现,进而无法沉淀更多数据出来。

因此,中小企业和个体创业者急需大模型落地,用相对不高的算力启动,用时间把数据跑出来。这次的三款特供版芯片,也针对这一趋势,面向更多「边缘」客户。

英伟达此前就有布局,为了帮助更多没有拿到足够算力的中小企业和个体创业者。英伟达在 10 月份针对 Windows 平台推出了 TensorRT-LLM,这个模型可以帮助运行在 Windows 设备的大模型更好地利用 RTX 显卡和 GPU 的性能。根据英伟达的说法,这样的设备超过 1 亿台。


「特供版」还是「烟雾弹」

美国商务部 1017 新规的生效时间是 11 月 16 日,正是传言中 H20 的发布日期。H20 「原计划」将在 11 月 16 日发布,在 12 月量产,但后来推迟到明年一季度。

黄仁勋在业绩会上也提到,「我们将确保与美国政府充分讨论我们在这些产品上的意图。」很显然,英伟达要留出时间窗口,等待监管方的反应。那么,H20 首先是一枚烟雾弹。

从 BIS 1017 新规中表现出的「哪里漏了补哪里」的特点来看,英伟达在与 BIS 的这场猫鼠游戏中占有主动权,有更丰富的技术储备和应对思路。一旦 H20 进入安全通道,更多「特供版」也会陆续到来。

可另一方面,即便英伟达主动推出「特供版」,也要考虑市场容量和产能。

英伟达 H100 还在消化订单,H200 排队到明年二季度,整个供应瓶颈卡在台积电的 CoWoS 封装环节。H20 同样使用台积电的 CoWoS 封装,这意味着 H20 即便绕过监管,交付时间也可能比传闻更长。

由于出口限制措施,英伟达没有在算力上实现突破,但 H20 在中国市场仍然是一款一鱼多吃的产品。H20 买家将更依赖 NVLink 技术,英伟达也能借此巩固自己 CUDA 软件平台的护城河。相应的,H20 买家在后续考虑国产替代时,就要承担额外的迁移成本。

等待时间越久,这枚「特供版」芯片的命运也会愈发扑朔迷离。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
微信、支付宝重磅功能下线,太突然了!

微信、支付宝重磅功能下线,太突然了!

果粉俱乐部
2024-02-22 12:14:39
娃哈哈创始人宗庆后在icu抢救,医院:目前情况平稳!

娃哈哈创始人宗庆后在icu抢救,医院:目前情况平稳!

人物百科大全
2024-02-22 18:12:53
北京院士说实话:2块钱的维生素,是散结节的顶尖药,便宜还好用

北京院士说实话:2块钱的维生素,是散结节的顶尖药,便宜还好用

泌尿男科王医生
2023-10-15 18:00:04
火葬必须取消,恢复土葬!北大哲学系教授吴飞强烈建议!

火葬必须取消,恢复土葬!北大哲学系教授吴飞强烈建议!

回京历史梦
2024-02-22 16:15:26
第六战世界第一!郑钦文中心场对强敌,斯瓦泰克强横表态:我会赢

第六战世界第一!郑钦文中心场对强敌,斯瓦泰克强横表态:我会赢

小马哥谈体育
2024-02-22 18:57:28
沥心沙大桥连接的三民岛约有9100人,广州南沙区:提供生活等保障

沥心沙大桥连接的三民岛约有9100人,广州南沙区:提供生活等保障

澎湃新闻
2024-02-22 19:22:27
美国一架飞机,在7500米高空时突然裂开,空姐被大风吹走后来如何

美国一架飞机,在7500米高空时突然裂开,空姐被大风吹走后来如何

社会奇闻君
2024-02-21 18:35:03
台湾春晚堪比逛窑子:艳舞刷屏 男女露肉 中华文化正统在台岛?

台湾春晚堪比逛窑子:艳舞刷屏 男女露肉 中华文化正统在台岛?

全球吃瓜局
2024-02-11 18:10:21
李想谈收购高合汽车

李想谈收购高合汽车

电动知家
2024-02-22 14:09:36
蔡天凤离世一周年!母亲豪宅出镜透露4个孩子近况,否认家族黑料

蔡天凤离世一周年!母亲豪宅出镜透露4个孩子近况,否认家族黑料

阿桥侃娱乐
2024-02-22 10:38:56
普京:俄罗斯一贯坚决反对在太空部署核武器

普京:俄罗斯一贯坚决反对在太空部署核武器

财联社
2024-02-21 03:17:13
西安交通大学、武汉大学发讣闻:知名教授在美国逝世

西安交通大学、武汉大学发讣闻:知名教授在美国逝世

双一流高校
2024-02-22 15:56:19
公然“造假”,却被央视吹爆!毁三观的AI产品,凭啥价值千亿?

公然“造假”,却被央视吹爆!毁三观的AI产品,凭啥价值千亿?

金错刀
2024-02-22 16:20:16
微软市值达22.5万亿,创造了新历史纪录,比尔盖茨成为了大输家!

微软市值达22.5万亿,创造了新历史纪录,比尔盖茨成为了大输家!

老澉观点
2024-02-22 16:14:03
黎姿为母亲庆生!妈妈冻龄状态不输52岁女儿,戴珍珠尽显高贵气质

黎姿为母亲庆生!妈妈冻龄状态不输52岁女儿,戴珍珠尽显高贵气质

真相人间
2024-02-22 11:37:23
女歌手田震出售悉尼豪宅,居住了七年

女歌手田震出售悉尼豪宅,居住了七年

静静时光
2024-02-22 12:06:51
黄教授:国家机关食堂看着很美,天天吃也腻,宁可出去吃碗面

黄教授:国家机关食堂看着很美,天天吃也腻,宁可出去吃碗面

妮子说美食
2024-02-22 04:41:56
中国已经提前准备好,开战后的第一件事,先废掉美国的“星链”

中国已经提前准备好,开战后的第一件事,先废掉美国的“星链”

蒋福伟
2024-02-21 10:08:30
差评!除了河南,其他省市网友都给胖东来差评,理由出奇的一致!

差评!除了河南,其他省市网友都给胖东来差评,理由出奇的一致!

小兔子爱旅游
2024-02-22 09:45:27
多名公务员因微信办公违规被处理

多名公务员因微信办公违规被处理

央广网
2024-02-21 15:10:05
2024-02-22 20:06:44
电厂
电厂
探索科技公司的未知,为你充电
972文章数 956关注度
往期回顾 全部

科技要闻

看懂英伟达财报:业绩炸裂背后的"内忧外患"

头条要闻

广州三民岛8千村民在断桥后靠轮渡出行 岛上学校停课

头条要闻

广州三民岛8千村民在断桥后靠轮渡出行 岛上学校停课

体育要闻

重伤,暴瘦30斤!昔日男篮新星再进国家队

娱乐要闻

鹿晗关晓彤聚餐被拍,男方打扮低调

财经要闻

宗庆后在ICU救治 春节前曾因肺癌入院

汽车要闻

2024款蔚来全系车型售29.8万起 最强NOMI上车

态度原创

艺术
健康
时尚
教育
旅游

艺术要闻

看展览|劳尔·卡尼巴诺:具有超现实味道的古巴人文景观

改善心脏健康的10个秘诀

美妆胶卷 | 以自信状态开启崭新篇章,展现真我本色。

教育要闻

“放松是补充,放纵是消耗”:优秀的孩子背后,都站着狠心的父母

旅游要闻

中国最赚钱的航空公司,到底有多抠?

无障碍浏览 进入关怀版