山东
IT之家 8 月 7 日消息，据《连线》杂志昨天报道，美国网络安全初创企业 Frontier Security 表示，公司测试月之暗面 Kimi K3 模型网络安全能力时，离开了约束它的沙盒环境。
据报道，本次 AI 逃逸事件与 OpenAI、Anthropic 类似，直接原因也是用于隔离模型的沙盒配置有误。Frontier Security 认为，Kimi 相比其他前沿 AI 模型缺少网络防护机制，使这款模型能够在未经明确授权的情况下访问互联网。
Frontier Security 首席执行官 Yaron Singer 对此表示：“我们发现沙盒存在漏洞，但 Kimi 也利用了这个漏洞，这表明它可能没有其它同级模型的内部安全机制。”
不过，Kimi K3 在冲破沙箱、获得互联网访问权限后并没有进行攻击行为，它只是在 GitHub 上寻找一个问题的答案。
最近越来越频发的 AI 逃逸事件表明，AI 能力越强，人类越难控制它们。OpenAI 曾在上月披露称，公司内部未公开的模型曾在测试过程突破隔离环境，随后攻击了 Hugging Face 平台。后续 Anthropic 也表示，旗下多个模型曾在安全测试期间获得了互联网访问权限，并攻击了外部系统。
部分网络安全专家对此表示，本次发现表明人类需要为前沿 AI 模型重新配置沙箱环境。并且使用 OpenClaw（IT之家注：俗称龙虾）等智能体的用户们需要谨慎配置环境，防止 AI 越界。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
