北京
5月26日消息，纽约时报报道，英国AI Security Institute（AISI，原AI Safety Institute）的研究人员会测试前沿AI模型，寻找安全漏洞和风险边界，而这套做法正在被其他政府借鉴。
过去几年，AI监管经常停留在透明度、责任、原则、风险管理和自愿承诺这些词上。现在问题更具体：一个模型发布前，到底会不会帮助黑客攻击？会不会降低制造危险物质的门槛？会不会在关键场景里绕过安全限制？
这种问题不能只靠公司自己回答。公司可以做红队测试，也可以发布安全报告，但政府如果没有自己的评估能力，就只能在发布会、论文和企业承诺之间做判断。英国AI安全研究院的价值，正在于它把政府放进了测试流程里。
这套模式已经开始向国际合作扩散。英国政府5月25日发布公告称，英国AI安全研究院将与澳大利亚AI安全研究院合作，跟踪前沿AI风险，包括AI系统如何被用于网络攻击，以及如何用于加强防御。公告还提到，双方会共享AI能力洞察，开展新兴风险研究，并推动AI测试和评估的国际最佳实践。
美国也在走类似方向。美国商务部下属的AI标准与创新中心（CAISI）近期与谷歌DeepMind、微软和xAI达成协议，将在模型公开发布前进行国家安全相关评估。微软也在同期宣布与美国CAISI和英国AISI建立合作，用于测试前沿模型、评估安全防护，并降低国家安全和大规模公共安全风险。
这意味着，前沿模型公司以后面对的不只是市场竞争，还有一套越来越像“发布前安全评估”的流程。在英美这类合作框架下，模型能力越强，企业越可能需要向政府测试机构提供更多材料和访问权限。对创业公司来说，如果未来政府采购、企业采购或跨境合规更多参考这类评估，安全测试能力会变成产品竞争的一部分。
未来AI监管不再只是问“公司有没有写安全承诺”，而是开始问“有没有人真的测过”。这比原则声明更麻烦，也更接近现实。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
