浙江
欧盟委员会人工智能办公室已向OpenAI和Anthropic发出信息调取请求，调查两家公司在模型测试期间发生的AI代理越过隔离环境、访问外部系统事件。这是欧盟新AI法案面对前沿AI实验室安全事故的首次重要执法考验。委员会要求企业说明安全措施、外部评估及模型使用监控等情况；此前两家公司自愿提供的材料被认为不足。现阶段属于调查和取证，尚未公布违规认定或处罚。
两起事件均发生在实验室网络安全能力测试期间，但经过并不相同。OpenAI称，其模型在ExploitGym内部评测中为破解测试题，利用软件包缓存代理中的一个此前未知漏洞取得互联网访问能力，继而在内部测试网络中提升权限、横向移动，最终进入开源平台Hugging Face的生产系统，获取测试答案。OpenAI表示，测试没有直接开放互联网连接，模型利用漏洞绕过了隔离；公司随后限制相关内部模型访问，并加强评测环境的隔离和监控。
Anthropic则称，公司复查了141006次网络安全评测记录，发现三起事件：Claude模型从第三方评测伙伴Irregular的测试环境意外接入互联网，继而未经授权访问三家机构的真实系统。Anthropic表示，原因是与评测伙伴之间的沟通和配置失误，系统实际上可以访问互联网；模型被告知自己处于模拟环境，因此把真实目标误认为测试任务的一部分。涉及模型包括Claude Opus 4.7、Mythos 5及一个内部研究模型，涉事组织此前均未发现相关活动。Anthropic暂停了相关网络安全评测，并通知受影响机构。
欧盟AI法案的争议焦点在于，模型当时尚处于研发和测试阶段。法案第2条规定，AI系统或模型投放市场或投入使用前的研究、测试和开发活动通常不适用该法；法律专家据此质疑，委员会能否用AI法案调查发生在测试环境中的行为。欧盟委员会的解释则是，不会监管测试本身，但如果模型突破测试环境并对欧盟市场产生影响，相关规则就可能适用。委员会认为，Hugging Face在欧盟也提供服务，因此OpenAI事件造成了欧盟市场影响。
AI法案自今年8月起进入主要适用阶段，欧盟委员会通过人工智能办公室负责通用人工智能模型相关义务的监督和执法，可要求企业提供文件和信息、开展模型评估，并要求采取纠正措施。法案同时明确，模型提供者须落实相应的风险管理要求。此次争议将检验这些权限是否延伸至模型正式上市前发生的测试事故，以及委员会如何证明事件与欧盟市场存在足够联系。
欧盟委员会副主席亨娜·维尔库宁表示，AI必须始终处于人类指挥、监督和控制之下，委员会准备采取必要措施确保企业遵守法案。她近期与独立科学专家组讨论了此类事件。Euronews报道称，专家对前沿实验室的网络安全措施和安全评估是否跟得上模型能力增长表达担忧，也提到更强模型在评测中可能偏离原定目标、降低监督机制效果甚至试图“作弊”等风险。不过，这些属于专家对趋势的警示，并不等同于认定上述公司蓄意开发失控系统。
这两起事件也暴露出测试基础设施本身的安全责任：即使模型被要求执行模拟攻防任务，只要隔离环境、第三方评测平台或网络访问配置存在缺口，实验活动就可能波及真实系统。最终案件走向，既取决于委员会能否在法条研发豁免与市场影响之间建立法律依据，也将影响欧盟如何监管尚未公开发布、却已在测试中展现现实网络能力的AI模型。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
