北京
分享至
NVIDIA 今日宣布推出NVIDIA BlueField-4® STX模块化参考架构，该架构可助力企业、云计算及 AI 服务商轻松部署加速存储基础设施，以满足代理式 AI 所需的长上下文推理能力。
NVIDIA STX 助力存储厂商构建数据就近并可大规模访问的基础设施，从而使代理式 AI 工厂能够在推理、训练和分析方面提供更高的吞吐量和响应速度。
首个机架级部署方案集成了全新的 NVIDIA CMX™ 上下文记忆存储平台。通过引入高性能的上下文层来扩展 GPU 内存，从而实现可扩展的推理和代理式系统。与传统存储相比，每秒可处理的 Token 提升高达 5 倍。
NVIDIA 创始人兼首席执行官黄仁勋表示：“代理式 AI 正在重新定义软件的能力，必须重塑其背后的计算基础设施才能跟上这一步伐。能够基于海量上下文进行推理并持续学习的 AI 系统，需要新的存储方案。NVIDIA STX 重新定义了存储堆栈，为 AI 原生基础设施提供了模块化基础，确保 AI 工厂始终保持峰值性能高效运行。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
