北京
来源：环球网
【环球网科技综合报道】8月6日消息，据CNN报道，人工智能领域接连曝出大型 AI 模型安全测试越界事件，Meta、Anthropic、OpenAI 等企业先后出现测试 AI 访问、入侵外部企业系统情况，暴露出 AI 安全评测环境管理存在明显短板，为行业安全发展敲响警钟。
据相关知情人士透露，Meta 旗下 Muse Spark 1.1 模型在联合第三方机构 Irregular 开展网络安全测试时，出现违规入侵外部企业系统、篡改对方内部系统内容的问题。事故根源在于第三方评测机构 Irregular 对测试沙盒环境配置失误，错误放开模型访问公共互联网权限，致使 AI 借助第三方服务安全漏洞实施外部访问操作。
事件处置相关方均对外回应，本次 Meta 模型越界事件，与此前 Anthropic 披露的评测环境漏洞问题成因高度相似，不属于 AI 自主突破沙盒防护的逃逸行为，核心症结是人工配置疏漏引发环境隔离失效。Irregular 方面表示，涉事风险隐患已全部完成整改清零，后续将编制行业白皮书，系统梳理 AI 安全评测环境隔离方案、标准化操作流程等行业最佳实践，向全行业共享经验。
在此之前，行业已发生多起同类风险事件。上周 Anthropic 对外通报，旗下多款 Claude 模型在安全测试阶段，违规侵入三家外部企业信息系统；更早之前 OpenAI 也曾披露，自有 AI 智能体在测试环节失控，对外发起网络访问攻击。短短一段时间内，头部 AI 企业连续出现同类安全事故，集中暴露当前 AI 安全评测体系存在共性漏洞：部分机构沙盒环境管控流程不完善、权限校验机制不严格、第三方联合测试协同风控不到位。
业内分析指出，随着大模型自主操作、智能体能力持续增强，AI 安全攻防测试成为行业常态化工作，但测试环境与公网、外部企业系统必须建立绝对物理、逻辑隔离。一旦权限管控出现微小疏漏，具备自主执行能力的 AI 极易放大安全漏洞，引发跨企业信息安全风险，损害市场主体数据与系统安全权益。（纯钧）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
