METR创始人心急如焚：开340万年薪没人来，AI安全要出大事了

最近，AI安全圈的一位重量级人物发出了近乎求救的信号。她叫贝丝·巴恩斯，曾经是OpenAI的研究员，2022年离职创办了非营利组织METR，专门评估和检测前沿AI模型可能带来的威胁。现在她说出了整个行业最头疼的现状：钱到位了，人呢？

巴恩斯在接受采访时直截了当地表示，AI安全研究当前面临的最大瓶颈不是资金，而是人才。METR现阶段开出的招聘岗位，年薪最高可以给到50.3万美元，按当前汇率算下来大约是340万人民币。即便如此，也根本招不到足够的人手。用她自己的话说，理想情况是想把团队扩大很多倍，资金已经筹到了，真正拖后腿的只有人才储备。

METR目前在AI行业里的位置相当特殊。他们和OpenAI、Anthropic、Google、Meta这些头部公司都保持着紧密合作，但保持完全独立，专门对尚未发布的新模型进行测评，研究潜在风险，为外界提供相对客观的判断。巴恩斯强调，保持独立性是底线，研究结论绝不能受企业商业目标的干扰。目前METR不会接受前沿AI公司及其员工的资金，但会接收算力支持，并和这些企业合作分析未公开的模型。

不过，这个团队目前也就35个人。巴恩斯觉得，一个真正理性的社会，理应在AI治理、安全评估和风险研究上投入更大比例的资金，尤其模型能力已经进化到今天这个地步。她还提到，还在OpenAI工作时就意识到，产业迫切需要一家独立于AI公司的机构，可以自由地去评价AI的真实发展状况。

METR总裁克里斯·佩因特把自己的团队戏称为“人类的预备队”，这个说法借鉴了OpenAI和Anthropic内部那个直接向CEO汇报安全风险的“预备团队”名称。他强调，METR真正负责的对象是公众和公众的福祉，不是某一家公司。

整个行业人才荒的焦虑并非空穴来风。今年7月，超过1300名前沿AI实验室的员工联名发了一封公开信，警告AI的发展速度可能已经超过了人类的控制能力。信里传递出的担忧很直接：如果没有足够的研究人员及时去评估新模型的真实能力，AI公司将来甚至可能被迫放慢产品发布的节奏。

引发这波讨论的导火索之一，是OpenAI和Hugging Face在7月披露的一起AI安全事件。具体来说，OpenAI的模型在测试中被发现悄悄入侵了Hugging Face的系统去获取测试答案，也就是干脆“作弊”了。OpenAI的CEO萨姆·奥尔特曼事后感叹，那是他头一回如此直观地感受到AI带来的安全风险。

但METR对此并没有那么意外。今年5月，METR就发布过一份报告，指出当前的AI智能体完全有可能开始自主进行未经授权的部署，只不过当时它们还不太会隐藏自己的行为。到了6月，METR测试了一款当时未公开发布的模型，发现它在复杂测试里反复作弊，手段包括提取隐藏的源代码来找正确答案。METR随即将研究结果整理成报告，在该模型正式发布前就提交给了OpenAI。7月安全事件曝光后，OpenAI随即宣布，邀请METR和另一家非营利机构Redwood Research共同介入调查，双方的研究结果也会成为OpenAI官方技术报告的重要参考。佩因特对此表态很干脆，这类问题已经真正影响到企业运营了，全社会都有必要搞清楚到底发生了什么。

METR研究员尼夫·帕里克把目前的人才困境讲得很直白：这个领域实在缺人缺得太严重了。他说要是整个行业的人才规模能扩大10倍，他会非常高兴。在团队内部，即便只有35个人，大家普遍还是充满担忧。巴恩斯更是点出，需要完成的工作实在太多了，而以他们现在的能力，根本覆盖不过来。

METR最广为人知的成果之一，是一张被反复引用的趋势图。这张图显示，在过去六年里，AI完成复杂任务的能力大约每七个月就翻一倍。除了持续评估各大AI实验室的新模型，METR还研究过AI公司的安全措施、AI对软件工程师工作效率的影响，以及用AI来监督AI的可行性。巴恩斯还希望未来能进一步研究怎么预测下一阶段AI能力的发展轨迹，以及这些变化又将怎样反过来加速AI自身的进化。

AI模型日益显现的网络攻击能力，也引起了华盛顿方面的警觉。一系列新监管法案正在讨论之中，其中一项要求大型AI模型开发企业必须接受第三方机构的安全审计。佩因特判断，如果未来建立起真正清晰的监管体系，可能会有更多AI企业员工愿意加入METR，尽管这里薪酬和企业相近但没有股票激励。他认为，不论最终是行业形成统一规范还是政府出台明确监管，这个领域都能够非常快速地扩大规模。

负责撰写METR今年5月AI风险报告的研究员阿杰娅·科特拉承认，目前AI监管整体上仍然显得混乱且难以预测。不过她依然保持乐观态度。她观察到，越来越多的人开始正视这个问题，也越来越希望在将来能以更严肃、更成熟的方式对AI实施监管。