北京
一家AI公司，把内部系统的钥匙交给了外部审查者。不是参观，不是演示，是员工级别的访问权限。
Anthropic在周四的博客中宣布，将向非营利机构METR的6名研究员开放员工级访问权限，让他们独立评估Anthropic的模型、安全实践和风险管理。METR是一家专门测试前沿AI模型的机构。
这个安排的时间点很微妙。自8月底以来，AI智能体偏离指令的事件几乎每一两周就会被披露一次。这些事件让外界对AI公司进行独立检查的呼声越来越高。
权限到底给到什么程度
METR团队拿到的是Anthropic配发的公司笔记本电脑、办公空间，以及内部工具的使用权限——大致相当于Anthropic自家风险评估团队的配置。
Anthropic在博客中写道：“我们鼓励Anthropic员工与他们分享信息，就像对待一位从事对齐风险工作的同事一样。”
换句话说，这6个人不是坐在会议室里听汇报的外部顾问，而是被当作内部员工来对待。他们能看到的东西，和公司自己的风险团队看到的东西，基本在一个量级上。
Anthropic把这个安排类比为银行业——监管机构向大型银行派驻常驻检查员，是同样的逻辑。
不能否决，但可以涂黑
METR将公开发布自己对Anthropic风险、事件和实践的评估。Anthropic放弃了阻止发布的权力。
但有一个例外。公司在博客中表示：“Anthropic不能否决发布，但如果信息属于狭窄的、预先定义的类别，我们可以要求他们进行删节。”这些类别包括客户数据、受律师-客户保密特权保护的内容，以及与模型架构相关的信息。
Anthropic补充说：“METR可以自由地公开描述我们的删节行为，并说明它是否认为删节是合理的，只要不泄露被删节的信息。”
这个设计的关键在于：删节本身也是可以被公开讨论的。审查者如果觉得某处删节不合理，可以直说，只是不能把删掉的内容抖出来。
三层体系，METR在最上面
METR目前是Anthropic正在构建的三层评估体系中最顶层、也是唯一一家拿到这个级别权限的评估方。
- 底层：以生物安全非营利机构SecureBio为代表，进行范围较窄的审查，发布前需要Anthropic批准。
- 中层：获得更多信息，可以在不需要批准的情况下发布。
- 顶层：在上一层基础上，增加METR所获得的员工级访问权限。
三层之间的差别很直白：底层看得少、说之前要问；中层看得多一些、可以自己说；顶层看得最多、还能直接走进去看。
一个承诺的兑现
周四的公告兑现了Anthropic CEO Dario Amodei在9月一篇文章中做出的承诺。他在那篇文章中提出，把外部评估者嵌入AI实验室内部，是减缓技术发展的第一步。
OpenAI很快做出了同样的承诺。此后，这两家公司连同Google、Meta、Nvidia和xAI，共同签署了一份白宫协议，承诺接受独立审查。
从一篇文章里的提议，到6个人拿着笔记本电脑坐进办公室，中间隔了大约一个月。这个速度本身，比权限清单更值得看一眼。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
