北京
来源：环球市场播报
10月11日披露的信息显示，美国政府已撤回此前要求主要AI企业暂停向英国提供未发布模型的决定。英国AI安全研究所（AISI）将恢复对Anthropic、OpenAI和谷歌DeepMind新模型的发布前访问，以开展安全测试。这一调整发生在英国AI事务部长卡尼什卡·纳拉扬等官员推动恢复访问之后。
白宫撤回美方优先评估要求
9月24日披露的信息显示，白宫国家网络事务主任办公室曾要求OpenAI、Anthropic等企业，在新模型接受美国政府评估之前，不要向英国测试机构提供访问。美方当时给出的理由是，先审查模型并采取措施确保美国系统安全，再向国际合作伙伴共享。
此次撤回恢复了英国研究人员在模型面向公众推出之前开展测试的渠道，涉及Anthropic、OpenAI和谷歌DeepMind。
此前，不同模型的访问安排存在差异。AISI主任亨利·德佐特在9月15日致议会的信中说明，Anthropic在Mythos 5.1发布时明确表示，美国以外的机构均无权访问该模型。同时，AISI仍能提前访问部分先进模型，并在当月公开发布之前测试了OpenAI的GPT-6 Astra。
发布前测试依赖企业提供深入访问
AISI隶属英国科学、创新与技术部，其与AI企业的测试合作以自愿安排为基础，覆盖模型发布前和发布后的评估。
研究所公布的评估方法包括测试模型是否能够帮助实施网络攻击或化学、生物领域的有害行为，是否能作为智能体自主执行复杂任务，以及安全防护能否抵御绕过尝试。
发布前测试需要企业提供比普通产品使用更深入的访问。AISI表示，高质量评估需要了解模型的实际能力与防护措施，并在部署前留出足够时间完成测试、质量核验及反馈。
其与Anthropic、OpenAI的合作中，企业曾提供非公开工具及安全防护细节，帮助研究人员识别并修复系统漏洞。
英美已有联合评估合作框架
英国与美国于2024年4月1日签署AI安全合作备忘录，约定协调测试方法，分享模型能力及风险信息，并探索研究人员交流。双方当时计划至少对一个公开可访问模型开展联合测试。
此后，AISI与美国AI标准与创新中心（CAISI）及主要开发商持续合作，开展模型安全评估和防护改进。
发布前测试是AISI向政府提供风险信息的核心工作之一。其研究还覆盖化学与生物风险、人类影响及失去控制等领域，并结合模型发布后的测试，持续评估先进AI系统的能力变化。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
