NVIDIA 发布适用于 Jetson 的 Metropolis 微服务

边缘视觉 AI 应用的开发周期往往漫长且昂贵。同时，快速开发灵活、安全的云原生边缘 AI 应用的重要性也变得前所未有。现在，全新NVIDIA Metropolis 微服务是强大且简单、由 API 驱动的边缘 AI 开发工作流。

NVIDIA Metropolis 微服务是一套用于开发视觉 AI 应用和解决方案的自定义云原生构建模块。此次发布为NVIDIA Jetson平台引入了扩展的 API 和微服务组合，可以进一步加速边缘视觉 AI 应用的开发和部署。

全新的 Jetson 微服务可帮助开发者实现 AI 应用堆栈的现代化、精简其流程，并为未来的应用提供保障。您可以通过 API 和微服务（如视频存储和管理、预构建的 AI 感知管线、跟踪算法、系统监控、安全连接边缘与云的物联网服务等）轻松整合生成式 AI 的最新发展成果。

访问网页下载适用于 Jetson 的 NVIDIA Metropolis 微服务：https://developer.nvidia.com/login

图 1. 使用 NVIDIA Metropolis 微服务加速开发边缘 AI 应用

发布亮点

生产就绪型边缘 AI 应用需要众多组件，包括 AI 模型、优化的处理和推理管线、粘合逻辑、安全措施及云连接等。适用于 Jetson 的 NVIDIA Metropolis 微服务通过使用可扩展的云原生模块化架构，为最普遍的组件提供预构建的微服务，简化了应用程序的开发过程。

由于标准 API 可与其他应用和服务无缝集成，平台的灵活性提高了开发效率。该平台还提供物联网、安全、监控等基本服务，为生产级应用提供即用型核心组件。

开发者可访问超过 15 项跨应用、平台服务和云服务的微服务，因此可以专注于构建自己的 IP，并在市场中实现差异化。

NVIDIA 的合作伙伴正在将 NVIDIA Metropolis 微服务整合到其产品中，包括研扬科技、安提国际、研华科技、Allxon、CRG、CVEDIA、Namla、Rebotnix、RidgeRun、矽递科技和 Silicon Highway 等，并且每天都有新的公司加入这一行列。

参考工作流和应用

为了帮助您开始使用适用于 Jetson 的 NVIDIA Metropolis 微服务，我们提供了两个参考应用，分别是 AI 网络录像机和具有零样本检测功能的生成式 AI 应用。这两个工作流将展示如何结合微服务与 API，来构建从视频接入、AI 推理、分析、监控一直到安全云连接的全套应用。

AI 网络录像机

AI 网络录像机（AI-NVR）参考工作流将几乎所有微服务整合到一个综合应用中，包括：

• 通过视频存储工具套件（VST）微服务实现的视频接入和存储
• 使用 NVIDIA DeepStream 的 AI 感知服务进行人员检测和跟踪
• 使用分析服务，实现越界和感兴趣区域（ROI）的洞察与警报

我们提供了一个安卓参考移动应用，来演示如何使用 API 构建客户端应用。如需了解更多信息，请在 NVIDIA 点播播放列表中观看：使用适用于 Jetson 的 Metropolis 微服务的 AI-NVR。

图 2. AI网络录像机（AI-NVR）应用架构

使用生成式 AI 实现零样本检测

适用于 Jetson 的 Metropolis 微服务使开发者能够为边缘生成式 AI 应用开发原型，并将其产品化。该生成式 AI 参考应用可以对实时流数据进行零样本检测。模型可检测到任何带有提示的指定对象。

可通过 REST API 远程向 AI 感知服务发出提示，从而动态更改要检测的类别。生成式 AI 为边缘带来了新一代 AI 赋能的应用。如需进一步了解使用 Metropolis 微服务的生成式 AI，请参见使用适用于 Jetson 的 NVIDIA Metropolis 微服务将生成式 AI 带到边缘。

图 3. 实现零样本对象检测的生成式 AI 参考应用

功能强大的微服务和 API

适用于 Jetson 的 Metropolis 微服务是功能丰富的微服务和 API 的集合，包含了应用服务、平台和板级支持包（BSP）服务以及云服务。这些模块化且可扩展的微服务能轻松地为边缘构建现代云原生应用。

开发者可以根据自己产品的成熟度，灵活选择一种、多种或所有服务。

图 4. 适用于 Jetson 的 Metropolis 微服务软件堆栈

应用服务

• 视频存储工具套件：视频接入和存储服务
• 使用 NVIDIA DeepStream 的 AI 感知服务：用于 AI 推理、对象跟踪和元数据创建
• 实现零样本检测的 AI 感知服务：利用 NanoOWL 模型和视觉提示进行的生成式 AI 推理
• 分析服务：对象计数分析，如越线、感兴趣区域和视野等

• Redis：用于进程间通信的全局消息总线
• API 网关：将传入的 API 请求映射到后续服务
• 监控：对边缘设备状态（例如利用率、应用 KPI 等）进行监控和可视化
• 物联网网关：边缘和云之间的安全双向通信

云服务

• 物联网云：创建从云到边缘的安全连接，包括身份验证和授权

总结

NVIDIA Metropolis 微服务提供即用型应用以及平台服务、像素感知、视频存储、分析等超过 15 种微服务，可加速边缘视觉 AI 的开发。访问链接下载适用于 Jetson 的 NVIDIA Metropolis 微服务：https://developer.nvidia.com/login

若要了解适用于 Jetson 的 Metropolis 微服务的技术细节，请参阅适用于 Jetson 的 NVIDIA Metropolis 微服务白皮书：https://resources.nvidia.com/en-us-metropolis-microservices-for-jetson/jetson-whitepaper

关于如何使用 Metropolis API 构建应用的教程，请参阅使用 NVIDIA Metropolis 微服务和 API 构建边缘视觉 AI 应用：https://developer.nvidia.com/blog/how-to-build-vision-ai-applications-at-the-edge-with-nvidia-metropolis-microservices-and-apis/

如需了解更多信息，请报名参加以下两场在线研讨会：

使用适用于 Jetson 的 Metropolis API 和微服务加速边缘 AI 开发：https://info.nvidia.com/metropolis-on-jetson-webinar.html

如何使用适用于 Jetson 的 Metropolis 微服务进行构建：

https://info.nvidia.com/build-with-metropolis-microservices-for-jetson.html