10月27日消息,英伟达与Meta宣布,双方将围绕Meta旗下Muse大模型及其AI智能体展开更深入的技术合作,重点提升模型训练和推理性能,同时降低整体计算成本。
根据双方公布的计划,Meta将进一步扩大英伟达AI基础设施的部署规模,包括采用下一代Vera Rubin计算架构、Vera CPU以及最新的数据中心网络设备。
与此同时,英伟达还将在Meta的股票发行中投资30亿美元。
Muse是Meta近年来重点发展的AI模型及智能体产品体系。按照双方披露的信息,Muse模型和智能体自推出以来,已经在多项前沿模型基准测试中取得具有竞争力的成绩,消费者下载量也持续增长。这些模型和智能体目前已经使用英伟达的计算基础设施进行训练和运行。
随着越来越多用户开始使用AI智能体,Meta需要处理的计算任务也变得更加复杂。相比传统聊天机器人,AI智能体不仅需要理解用户的问题,还需要进行推理、调用外部工具,并根据目标自主执行一系列操作。
因此,如何提高推理效率、降低单位任务成本,正在成为Meta扩大Muse用户规模的重要问题。
此次合作中,英伟达与Meta计划针对模型训练、推理以及相关工作流程进行联合优化。双方希望通过软硬件协同,提高计算性能,并降低总体拥有成本,也就是TCO。简单来说,就是让同样规模的算力能够完成更多任务,或者用更少的计算资源完成相同工作。
对于计划向数十亿用户提供AI服务的Meta来说,即便单次任务的成本只下降一小部分,最终也可能节省大量基础设施开支。
在硬件方面,Meta计划进一步扩大英伟达基础设施的使用范围。其中,最重要的产品包括Vera Rubin计算平台和Vera CPU。Vera Rubin是英伟达面向下一代AI工作负载推出的计算架构,主要用于支持大规模模型训练和推理。Vera CPU则面向需要高性能计算和高能效的服务器任务,可以承担AI智能体运行过程中涉及的任务调度、工具调用和其他计算工作。
对于Meta而言,部署这些新一代计算设备,主要是为了提高每瓦电力能够产生的实际计算能力。
随着全球AI数据中心规模不断扩大,电力供应已经成为限制算力增长的重要因素。
因此,单纯增加GPU数量并不能无限提升实际计算能力。如果能够提高芯片和系统的能效,就可以在相同供电条件下运行更多AI任务。这也是Meta和英伟达此次合作强调每瓦性能的重要原因。
除了计算芯片,Meta还计划部署英伟达Spectrum-X以太网网络技术和BlueField-4数据处理器。Spectrum-X主要面向大规模AI数据中心,帮助提升服务器之间的数据传输效率。在大型AI模型训练和推理过程中,数千甚至数万颗计算芯片需要频繁交换数据。如果网络传输效率不足,即便GPU性能再强,也可能因为等待数据而无法充分发挥计算能力。因此,数据中心网络已经成为影响AI计算效率的重要环节。
BlueField-4则是一款数据处理器,可以承担部分网络、数据处理和基础设施相关任务,减轻其他计算资源的负担。Meta希望通过这些设备,提高整个AI计算集群的网络吞吐量和运行效率。
此次合作还有一个值得关注的部分,就是AI智能体安全。英伟达和Meta表示,双方还将考虑围绕OpenShell参考架构展开进一步合作。其中包括用于安全部署AI智能体的NVIDIA OpenShell,以及用于监控智能体行为的NVIDIA Sentry。
OpenShell主要为AI智能体提供受控的运行环境,让智能体能够在明确的权限范围内执行任务。Sentry则负责监控智能体的行为,并在发现异常操作时提供相应的安全控制能力。
随着AI智能体逐渐获得访问文件、调用工具和操作软件系统的能力,企业需要防范的不再只是传统网络攻击。它们还需要确保AI不会在执行任务时,访问未经授权的数据或进行超出权限范围的操作。
对于Meta这样拥有庞大用户群体的平台来说,如果未来Muse智能体需要处理个人信息、执行购物任务或连接第三方服务,权限管理和行为监控就会变得更加重要。
相比技术合作,英伟达直接投资Meta的决定同样值得关注。据公告,英伟达将在Meta的股票发行中投入30亿美元。对于英伟达来说,Meta本身就是全球最重要的AI基础设施客户之一。随着Meta不断扩大大模型训练和推理规模,对高性能GPU、CPU及网络设备的需求也将持续增加。
英伟达通过股权投资进一步加强双方关系,有助于深化长期合作。而对于Meta来说,英伟达不仅是关键硬件供应商,也成为直接参与其资本布局的合作伙伴。
对于此次合作,英伟达创始人兼首席执行官黄仁勋表示,AI智能体代表着一种全新的计算范式。在他看来,过去人们使用电脑,需要自己打开应用程序、操作软件并完成任务。但在AI智能体时代,软件将能够理解用户目标、进行推理、调用工具,并代表用户完成工作。
黄仁勋认为,未来用户将逐渐从直接操作应用程序,转向与智能体协作。而英伟达与Meta此次扩大合作,就是希望从底层硬件到软件运行环境进行全面优化,让AI智能体变得更强大、更高效,也更加安全。他希望Muse未来能够帮助数十亿用户完成更多任务,实现更复杂的目标。
Meta创始人兼首席执行官马克·扎克伯格则表示,Muse是Meta向所有人提供个人超级智能的重要途径。Meta希望通过与英伟达持续合作,为全球数十亿用户提供更优秀的个人AI智能体和前沿大模型。从此次合作内容来看,Meta正在进一步强化AI基础设施投入,而英伟达也在不断扩大自己在AI产业链中的业务范围。双方已经不再满足于简单的芯片采购关系,而是开始围绕模型性能、基础设施效率、智能体安全和资本投资建立更加紧密的合作。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.