北京
一家AI公司把外部监督者请进了自己家里，还给了他们近似员工的钥匙。Anthropic宣布，来自外部非营利机构METR的6名安全评估员已经进驻公司内部，他们能接触到的内部系统、工具和人员，权限大致等同于Anthropic自家的风险评估团队。
这不是远程看看报告、开开视频会。这6名METR员工拿到了公司硬件、办公空间，以及"大致对等"的内部访问权限。换句话说，他们不是站在门外提意见的顾问，而是坐进了办公室、能直接翻看内部系统的评估者。
评估结论由METR自己发
更关键的一点在于话语权。METR将自行发布对Anthropic模型和实践风险程度的判断，Anthropic无权阻止，只能对少数预设类别的内容做删减，比如客户数据。而且这个删减决定，METR可以公开提出异议。
这意味着评估的最终解释权，至少部分交到了外部机构手里。公司能捂住的东西被限定在很窄的范围内，且每一次捂的动作都可能被摆到台面上。
不是所有评估者都拿到这把钥匙
Anthropic为外部评估者设了3个新的访问层级，METR站在最高处。其他评估机构就没这个待遇了，比如SecureBio，起步就在最低层级。
- 在最低层级，Anthropic仍然控制着评估者能看到什么；
- 评估者想发布什么，也必须先经过Anthropic批准；
- 而METR这一档，公司只能删减预设类别，且删减可被公开挑战。
同一家公司，同一批外部评估者，权限被切成了两种截然不同的模式。一边是近乎员工的开放，一边是层层审批的受限。
公司自己怎么说
Anthropic在社交平台上表示，公司承诺让评估者评估其安全实践，目前正在与多家机构洽谈，并且已经给了METR团队近似员工的访问权限。公司还专门发了一篇文章，介绍自己如何与第三方评估者合作。
把外部人请进来、还允许他们独立发声，这套安排本身就带着张力：公司既要展示开放，又要守住客户数据这类底线。3个访问层级的设计，正是这种张力的产物——开放到什么程度，取决于评估者是谁。
对关注AI安全治理的人来说，这次动作提供了一个具体样本：外部评估不再只是发问卷、看白皮书，而是有人真的坐进了公司，拿着工牌，看着内部系统，然后自己写结论。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
