大规模部署物理 AI，为何必须让安全覆盖每一个层级

随着智能汽车、机器人和其他 AI 驱动的机器在物理世界中承担越来越复杂的任务，安全必须覆盖系统的每一个层级。

物理 AI 正快速从研究阶段迈向大规模部署。随着这些机器进入道路、工厂、仓库和其他与人类共享的环境，安全能力也必须同步扩展。

物理 AI 安全，意味着要确保由 AI 驱动的机器（包括智能汽车、人形机器人、工业机器人等）在其决策转化为实际物理动作时能够安全运行。这要求安全覆盖硬件、软件、AI、运行环境和部署全生命周期，而不仅只是在部署前进行一次性检查。

在物理 AI 领域，制造商、监管机构、保险公司和工作场所安全团队都需要可靠证据，以确认在无需人工干预的情况下，硬件、软件、AI 行为和运行环境能够协同实现安全运行。

NVIDIA 为物理 AI 构建了怎样的安全基础？

NVIDIA 的安全基础源于十余年来在辅助驾驶汽车安全领域的持续研发，积累了功能安全、传感器融合、AI 行为保障、视觉 AI、仿真及真实世界验证等方面的专业能力。

NVIDIA Halos 是首个面向物理 AI 的全栈式综合安全系统，旨在帮助开发者在设计、验证和部署的各个层级实现工程安全。

对于辅助驾驶汽车的开发，Halos 涵盖：

• 硬件：NVIDIA DRIVE AGX Thor 提供经过安全工程设计的加速计算能力，NVIDIA Hyperion 则为 L4 级自动驾驶汽车提供全栈汽车平台和参考架构。
• 操作系统与中间件：Halos OS 基于通过 ASIL-D 认证的 DriveOS，提供统一的软件基础。Halos Core 和 Halos Middleware 支持系统隔离、监测和确定性通信。
• 端到端模型：NVIDIA Alpamayo 提供开放的视觉-语言-动作推理模型，为长尾场景带来可解释性。
• 仿真和验证：NVIDIA Halos 安全评估框架提供工具和指南，用于生成安全证据，以支持不同自动化等级辅助驾驶汽车的安全论证。

在机器人领域，Halos 涵盖以下层面：

• 硬件：工业级模组 NVIDIA IGX Thor，通过专用的功能安全岛，将加速计算与功能安全集成到同一平台上。其设计旨在支持符合 IEC 61508 和 ISO 13849 等标准的系统开发。
• 软件：面向 IGX 的 Halos Core 为安全相关运行功能提供了软件基础，包括故障检测、监测和报告，同时具备连接传感器、执行器和其他安全组件所需的通信及处理能力。
• 实时感知：NVIDIA Holoscan Sensor Bridge 将传感器数据与 AI 及安全相关处理相连接，帮助系统识别无效信息并执行既定的安全响应。
• 仿真与验证：NVIDIA Isaac Lab 和 NVIDIA Omniverse 库让开发者能够在相关条件和边缘场景下测试机器人行为，为现实世界验证提供补充。
• Outside-in safety：开源的 NVIDIA Halos Outside-In Safety Blueprint 使用外部摄像头和视觉 AI 智能体，将感知范围扩展到机载传感器之外，支持设施级监测和功能安全应用。

在辅助驾驶汽车和机器人两大领域，NVIDIA Halos AI 系统检测实验室将安全、网络安全及 AI 安全要求转化为可重复执行的检测流程，帮助 Halos 集成方案为第三方机构开展最终的系统级认证做好准备。

谁正在使用 NVIDIA Halos 安全生态系统构建解决方案？

辅助驾驶领域：吉利汽车、五十铃、日产（由 Wayve 软件提供支持）和 Einride 正基于 NVIDIA Hyperion 打造 L4 级汽车，由 Halos OS 提供支持；Uber、Grab、Lyft 等出行服务提供商也正在使用 Hyperion 加速无人驾驶出租车的开发与部署。

机器人领域：acontis 和 QNX 提供确保安全功能可预测运行所需的嵌入式软件；研华科技和 NexCOBOT 构建了基于安全设计的 NVIDIA IGX 系统；英飞凌、NXP、意法半导体和德州仪器提供传感器、安全微控制器等半导体技术。KION 集团正在为自主叉车开发功能性安全智能体。Agility 正将 NVIDIA IGX Thor 和 Halos Core 集成到其 Digit 5 人形机器人的安全系统中。

NVIDIA Halos 如何接受独立评估？

对于辅助驾驶汽车，TÜV SÜD 已认证 NVIDIA 的汽车产品生命周期软件流程和 DriveOS 6.0 符合 ISO 26262 ASIL D 要求，并认证 NVIDIA 的汽车工程流程符合 ISO/SAE 21434 标准。TÜV Rheinland 还对 NVIDIA DRIVE AV 进行了独立的 UNECE 安全评估。

在机器人方面，TÜV Rheinland 正在对 NVIDIA IGX Thor、Halos OS 和 Holoscan Sensor Bridge 进行功能安全认证就绪评估，该工作建立在 TÜV SÜD 此前已针对 Thor SoC 和 Halos Core 开展的 ISO 26262 检测的基础之上。

在物理 AI 领域，ANAB 已认可 NVIDIA Halos AI 系统检测实验室为 ISO/IEC 17020 检测机构。

以上为摘要内容，点击链接阅读完整内容：大规模部署物理 AI，为何必须让安全覆盖每一个层级 | NVIDIA 英伟达博客大规模部署物理 AI，为何必须让安全覆盖每一个层级 | NVIDIA 英伟达博客