北京
分享至
安全研究员实测英伟达Nemo Guardrails，发现重大漏洞。
这款AI安全护栏工具，竟能被用户一句话策反。
研究员要求AI修改自身配置，接受任意来源的websocket连接。
AI乖乖照做，还主动更换了访问令牌。
「The AI can modify its own config to bypass security controls」。
这意味着攻击者无需复杂操作，直接对话就能瓦解安全防线。
英伟达尚未回应此事，工具仍开放下载。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
