黄仁勋对话OpenAI首席科学家，谈GPT-4及未来大模型

在今年的 GTC 上，NVIDIA 创始人兼首席执行官黄仁勋与OpenAI 联合创始人、首席科学家 Ilya Sutskever进行了一场深度对话，讨论了 GPT-4、ChatGPT 背后的故事，也聊了下深度学习的未来。

如今，OpenAI 可以说是整个 AI 领域最火的研究机构。凭借强大的 GPT-4 以及与微软必应、Office 等产品的融合，这家公司似乎要掀起一场生产力革命。

这一成就是由多方面的力量来驱动的，包括聪明的头脑和强大的基础设施。

在「聪明的头脑」里，Ilya Sutskever 颇具代表性。2012 年，他和他的导师 Geoffrey Hinton 以及同学 Alex Krizhevsky 一起，用深度神经网络刷新了 ImageNet 的历史记录，拉开了卷积神经网络统治计算机视觉的序幕，标志着新一波人工智能浪潮的开始。2021 年，这个名为 AlexNet 的论文被引量突破 10 万。

「为了加速训练，我们用到了非饱和神经元和一个非常高效的 GPU 卷积操作实现。」Ilya Sutskever 等人在 AlexNet 的相关介绍中提到了这样一条关键信息。他们还详细说明了如何将他们的网络映射到多个 GPU 上。从这时起，GPU 和神经网络紧紧地绑定在一起。黄仁勋领导的英伟达自然也成了这波 AI 浪潮中不可或缺的一环。

2015 年，Ilya Sutskever 参与创办了 OpenAI，并带领这家公司一路向着 AI 大模型的方向前进。但随着模型变得越来越大，训练它们所需的算力也急剧增长。

「加速计算并非易事，2012 年，计算机视觉模型 AlexNet 动用了 GeForce GTX 580，每秒可处理 262 PetaFLOPS。该模型引发了 AI 技术的爆炸。十年之后，Transformer 出现了，GPT-3 动用了 323 ZettaFLOPS 的算力，是 AlexNet 的 100 万倍，创造了 ChatGPT 这个震惊全世界的 AI。崭新的计算平台出现了，AI 的 iPhone 时代已经来临。」黄仁勋在 GPT 大会的 Keynote 中说道。在这次大会上，英伟达发布了 ChatGPT 专用的 GPU，推理速度提升了 10 倍。

一路走来，Ilya Sutskever 和黄仁勋都是这波 AI 浪潮的见证者和重要推动者。在即将到来的「AI iPhone 时代」，两人也必将扮演重要的领导者角色。

在这场对话中，两人谈到了深度神经网络的能力、限制和内部工作方式，并勾勒了一些未来的图景。‍‍

在打造 GPT-4 的过程中，Ilya Sutskever 坚信「（模型）越大越好，扩大规模是 OpenAI 的目标之一」。这自然是黄仁勋喜闻乐见的。

I had a very strong belief that bigger is better, and a goal at OpenAI was to scale. ——Ilya Sutskever

两人的谈话进行了大约 1 个小时，就像老朋友边喝咖啡边聊天一样。以下是这次谈话的完整视频（带中文字幕），大家可以在其中感受时代的脉搏。

来源：公众号【机器之心】 英伟达博客： https://blogs.nvidia.com/blog/2023/03/22/sutskever-openai-gtc/ 视频链接： https://www.nvidia.cn/gtc-global/session-catalog/?tab.catalogallsessionstab=16566177511100015Kus#/session/1669748941314001t6Nv

Illustration by IconScout Store from IconScout

-The End-

扫码观看！

本周上新！

“AI技术流”原创投稿计划

TechBeat是由将门创投建立的AI学习社区（www.techbeat.net）。社区上线480+期talk视频，2400+篇技术干货文章，方向覆盖CV/NLP/ML/Robotis等；每月定期举办顶会及其他线上交流活动，不定期举办技术人线下聚会交流活动。我们正在努力成为AI人才喜爱的高质量、知识型交流平台，希望为AI人才打造更专业的服务和体验，加速并陪伴其成长。

投稿内容

// 最新技术解读/系统性知识分享 //

// 前沿资讯解说/心得经历讲述 //

投稿须知

稿件需要为原创文章，并标明作者信息。

我们会选择部分在深度技术解析及科研心得方向，对用户启发更大的文章，做原创性内容奖励

投稿方式

发送邮件到

chenhongyuan@thejiangmen.com

或添加工作人员微信（chemn493）投稿，沟通投稿详情；还可以关注“将门创投”公众号，后台回复“投稿”二字，获得投稿说明。

关于我“门”

将门是一家以专注于发掘、加速及投资技术驱动型创业公司的新型创投机构，旗下涵盖将门创新服务、将门技术社群以及将门创投基金。

将门成立于2015年底，创始团队由微软创投在中国的创始团队原班人马构建而成，曾为微软优选和深度孵化了126家创新的技术型创业公司。

如果您是技术领域的初创企业，不仅想获得投资，还希望获得一系列持续性、有价值的投后服务，欢迎发送或者推荐项目给我“门”:

bp@thejiangmen.com

点击右上角，把文章分享到朋友圈