北京
六名外部机构的工作人员，最近搬进了Anthropic的办公室。他们拿到的不是访客牌，而是公司配发的硬件设备，以及"大致等同于本公司风险评估团队"的内部系统访问权限。
这是Anthropic上周四公告里落地的第一件事：向外部评估人员开放类似员工级别的访问权限，用于评估模型存在的风险。入驻的是非营利机构METR的团队，这家机构此前与OpenAI、Anthropic、谷歌以及Meta等头部实验室都有合作。
把这件事放到背景里看，它回应的是一个越来越响的担忧：能力更强的人工智能系统，可能给经济、网络安全乃至全人类带来风险。扩大第三方评估人员的权责范围，是各大实验室提出的主要实质性举措之一。
一次难得的立场统一
今年9月，Anthropic首席执行官达里奥·阿莫迪促成了一次少见的统一。他的两大劲敌——山姆·奥尔特曼与埃隆·马斯克——都支持他提出的方案：在头部人工智能实验室派驻外部审计人员。
上周四的公告，是落实这个承诺的第一步。奥尔特曼称阿莫迪的提议很不错，但OpenAI尚未公布引入评估人员的相关计划。
Anthropic的说法是："随着模型能力不断增强，需要更强的安全防护以及更严苛的风险评估。我们希望自身做出的决策接受公众监督，但无法公开所有和安全研究相关的信息。"
银行监管式的安排，与它的批评者
这套机制被比作银行监管：监管机构会派驻常驻审查人员进驻大型银行内部。Anthropic的表述是，"如果一家银行承担风险的行为会威胁公众利益，第三方会尝试提前发现这类隐患。"
批评者不买账。他们认为相关安排可能产生利益冲突，还拿审计行业存在的问题作为佐证，并提出需要更强力度的政府监管。
Anthropic的回应是：公开相关信息可能会被恶意使用者或竞争对手利用。公司同时表示，不会为这项合作向METR支付费用。METR不接受人工智能企业及其员工的捐赠，资金来自个人、慈善组织，以及英国人工智能安全研究所这类政府机构。
评估人员会发布分析报告，Anthropic无权否决发布行为。但公司可以要求删减特定类别的信息，例如客户数据、受律师客户保密特权保护的内容，或是模型架构相关信息。
IPO压力下的安全叙事
Anthropic同时面临另一重压力：需要向投资者保证，安全相关问题不会影响其今年计划进行的首次公开募股。这次IPO估值预计将超过2万亿美元。本周，该公司在投资者宣讲材料中用大量篇幅介绍自身的安全措施。
METR并非第一次接触这类现场。此前Hugging Face遭遇由失控OpenAI模型发起的攻击事件，METR就是参与调查的机构之一，当时该机构查阅了数千条日志，还使用了企业提供的笔记本电脑。
Anthropic表示，鼓励员工像对接风险部门同事那样，向评估人员共享信息。除METR之外，另一家第三方测试机构SecureBio负责审查化学与生物武器相关风险。公司还在与埃森哲合作，后者上个月被确定为安全测试合作伙伴，双方各自承诺投入至少10亿美元搭建全新安全防护体系。
Anthropic的表态是："我们主动派驻评估人员，并且认为所有前沿人工智能企业都应当效仿。"METR的回应则是："我们已准备好和所有前沿人工智能研发企业合作，向公众提供更可靠的证据。"
六个人、一间办公室、一套内部权限。这套安排能不能撑住"公众监督"四个字，接下来要看的是那些报告里写了什么，以及哪些内容被要求删掉。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
