当地时间9月28日,英伟达宣布推出NVIDIA Open Agent Safety Platform,这是一个开放软件平台及参考系统设计,旨在从智能体测试到部署全流程增强AI安全,并对运行智能体的软件、硬件、计算及机器人系统实现全栈治理与控制。
该平台包括NVIDIA OpenShell安全运行时软件,可为在CPU上运行的智能体设定可强制执行边界。OpenShell现已广泛可用,并在首款专为智能体AI打造的NVIDIA Vera CPU上以极低开销运行。作为开源软件,OpenShell还可扩展至Arm、Intel等第三方计算平台。
参考系统设计包含NVIDIA Sentry。这是一个运行在NVIDIA BlueField-4 DPU上的带外监控程序,可持续监控智能体行为,并在芯片内独立执行安全策略。若智能体试图越出软件边界,Sentry可在毫秒内将其隔离并停止。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.