倒计时启动！2024 云栖大会 NVIDIA 加速计算精彩演讲抢先揭晓

万众瞩目的 2024 云栖大会已正式步入倒计时阶段，9 月 19 日 – 21 日，NVIDIA 将携手多位专家，带来一系列引人入胜的加速计算演讲。从大语言模型（LLM）的训练、推理、部署、网络互联等端到端的数据中心级技术栈的分享，到云上 LLM 解决方案、产业 LLM 应用实践、女性科技从业者等话题，NVIDIA 将与全球顶尖的科技专家、学术精英、行业领袖以及创新先锋共聚一堂，共话“加速计算新时代”。

本文将为您揭晓 NVIDIA 在 2024 云栖大会上的重要议程。

重磅议程 不可错过

《云与 AI 的创见》主论坛

主论坛简介：2024 云栖大会整体展现云计算第三次浪潮下，云计算与人工智能融合，在当下和很长一段时间的未来，为产业和社会带来新一次蝶变的澎湃之潮。《云与 AI 的创见》主论坛，集中探讨生成式人工智能发展的趋势判断，立足产业视角、面向未来前景，揭示由人工智能和云计算紧密推动的三个决定性场景：大模型为代表的 AGI 发展、自动驾驶、人形机器人。

吴新宙

主持人：

刘湘明 | 钛媒体联合创始人

对话嘉宾：

吴新宙 | NVIDIA 全球副总裁，汽车事业部负责人

何小鹏 | 小鹏汽车董事长、CEO

对话主题：

生成式 AI 重塑自动驾驶

时间：

9 月 19 日 10:45 - 11:15

地点：

A 馆⼆层云栖厅 A-2F

论坛：“智汇” 她力量

论坛简介：数字技术和人工智能是推动现代社会的关键力量，在全球化和数字化的新时代背景下，女性正以前所未有的姿态参与到社会的各个层面之中，展现出了非凡的能力和贡献。她们不仅引领着变革的方向，还致力于创造一个更加公平的环境，使更多女性能够获得平等的机会并积极参与到社会发展中来。本次论坛将邀请在数字技术和人工智能领域的女性杰出代表，与大家共同分享她们的实践经验和深刻见解。

刘念宁

演讲嘉宾：

刘念宁 | NVIDIA 全球副总裁

演讲主题：

新工业革命中的女性 “加速度”

时间：

9 月 19 日 14:45 – 15:05

地点：

B 馆 B3-2

论坛：聚力 · 链接 · 创见：

开放生态中的 MaaS 版图

NVIDIA 演讲简介：随着 Foundation Model 训练的不断深入，大语言模型开始进入业务部署阶段，推理侧的需求越来越大。和传统的 AI 推理不同，大语言模型的推理存在着多机多卡，推理引擎和调度工具紧耦合，客户请求千差万别，使用场景高度分化等挑战。同时，行业为了进一步降低推理成本，各类创新层出不穷。为了更好地支持大语言模型的落地，NVIDIA 推出了 TensorRT-LLM推理引擎和 NVIDIA Inference Microservice（NIM）预构建容器工具，NVIDIA 技术团队也为魔搭社区提供技术支持，赋能社区开发者。

李曦鹏

演讲嘉宾：

李曦鹏 | NVIDIA 开发与技术部门亚太区资深总监

演讲主题：

加速大语言模型推理

时间：

9 月 19 日 14:30 - 14:50

地点：

B 馆 B3-3

论坛：面向 AI 的可预期智算网络

NVIDIA 演讲简介：NVIDIA Quantum InfiniBand 和 Spectrum-X™ 以太网已成为大规模训练和部署 AI 事实上的网络标准。InfiniBand® 的网络计算、低延迟和高带宽功能有助于训练更大、更复杂的基础模型。Spectrum-X 是首个能够支持 AI 基础设施的以太网平台，为超大规模 AI 云和企业提供针对生成 AI 进行优化的网络。我们将深入探讨 NVIDIA AI 计算和网络架构的细节及其在下一代 AI 数据中心设计中的重要作用。

Gilad Shainer

演讲嘉宾：

Gilad Shainer | NVIDIA 网络高级副总裁

演讲主题：

迈向 AI 网络创新的新领域

时间：

9 月 20 日 10:30 - 10:55

地点：

D 馆 D3-8

论坛：AI 时代通义智能端侧

论坛简介：随着模型技术的飞速发展，智能终端设备作为模型和用户的最直接入口载体，拥有巨大的想象空间。过去的一年，从新形态硬件（Al Pin、Rabbit）、智能玩具、智能穿戴、智能手机、智能电视到智能汽车，这些设备通过集成先进的大模型算法，不仅提升了用户体验，也为企业带来了新的增长点和产品竞争优势。本次分论坛将聚焦于大模型在终端领域的技术探索和最新实践，以及这些技术带来的行业创新发展潮流。

卓睿

演讲嘉宾：

卓睿 | NVIDIA 软件高级总监

演讲主题：

大语言模型在 NVIDIA DRIVE 平台的应用

时间：

9 月 20 日 9:45 - 10:05

地点：

D 馆 D3-5

Day 1：9 月 19 日

并行话题 - 演讲 ：

Serverless GPU 助力 AI 推理加速

话题简介：AI 浪潮下，GPU 计算成本问题被广泛关注，阿里云 Serverless 计算服务函数计算创新性地提供了 GPU 实例，通过多种 GPU 使用形态帮助行业降低 AI 落地成本、满足弹性业务流量的资源诉求，本次分享将介绍阿里云函数计算团队与 NVIDIA 技术团队共同助力 AI 推理加速的方案与最佳实践。

金国强

演讲嘉宾：

金国强 | NVIDIA 解决方案架构师

聂大鹏 | 阿里云智能集团高级技术专家

时间：

15:30 - 16:00

地点：

D 馆 D2-10

并行话题 - 演讲：

Tair：基于 KV 缓存的推理加速服务

话题简介：随着 LLM 模型参数量的提升，推理服务的性价比越来越重要。Tair 在缓存加速领域深耕多年，提供高性能的分布式 KVCache 服务统一管理推理集群显存，通过碎片降低和 splitwise 等技术，大幅提升 LLM 推理的性能和 GPU 使用率，提高推理性价比。同时，Tair 对业界主流 LLM 进行了全面的适配，做到了真正的开箱即用。

季光

演讲嘉宾：

季光 | NVIDIA GPU 计算专家团队高级经理
王正恒 | 阿里云智能集团数据库产品事业部高级技术专家

时间：

16:20 - 16:50

地点：

D 馆 D2-5

Day 3：9 月 21 日

论坛：计算巢，

软件上云一站式解决方案

论坛简介：本话题将介绍阿里云计算巢服务作为软件一站式解决方案，助力 ISV 和开发者轻松实现软件上云的全生命周期管理功能，极大提升软件交付效率。同时，还邀请了涂鸦和 NVIDIA 作为合作伙伴，分享其服务在计算巢上的实践方案。

毛亦姝

演讲嘉宾：

毛亦姝 | NVIDIA 解决方案架构师

演讲主题：

NVIDIA NIM 联合阿里云计算巢助力 LLM 快速 SaaS 化

时间：

10:10 - 10:30

地点：

D 馆 D3-2