被解雇的OpenAI安全研究员驳斥不当行为指控

上周被OpenAI解雇的三名安全研究员贾斯敏·王（Jasmine Wang）、托梅克·科尔巴克（Tomek Korbak）和米基塔·巴列斯尼（Mikita Balesni）发表公开信，否认公司关于他们在既定流程之外不当处理敏感信息的说法，并警告称此次解雇将产生寒蝉效应，影响整个公司的文化氛围。

三人周四在致OpenAI安全与安保委员会、安全咨询小组及使命咨询委员会的公开信中写道："我们担心，围绕我们被解雇一事的内部和外部沟通，已让我们的前同事害怕以某种方式发言和行事——而在上周之前，这种方式还是在OpenAI工作不可或缺的一部分。"

这三名研究员上周被解雇，原因是他们被指控将机密公司信息分享给第三方AI安全组织。OpenAI表示，他们"访问和处理敏感公司信息"的行为违反了公司政策。

王、科尔巴克和巴列斯尼在信中写道："AI不是一项普通技术，OpenAI也不是一家普通公司。我们这些从事安全工作的人比任何人都更早看到风险，我们依靠与外部专家的密切合作来研究如何应对这些风险。能够毫无畏惧地做这件事，并拥有支持这项工作的明确内部流程，这本身就是一项至关重要的安全机制。"

他们表示，此次解雇代表着OpenAI文化的一次更广泛转变，公司过去曾鼓励员工"提出安全担忧并公开表达异议"。他们说，员工现在"不清楚自己的处境"，因为一个月前被允许的行为，如今突然成了被解雇的理由。

他们写道："鉴于AI开发所涉及的重大安全问题，员工绝不能在一个因恐惧和规则不明而阻碍AI安全工作、削弱第三方问责的环境中工作。像我们这样的解雇，执行和沟通方式如此突然，正在冷却OpenAI过去一直珍视的开放文化。"

在信中，三人否认参与了向The Information媒体泄露有关OpenAI最新模型中可监控性较低的架构的消息，这些架构使得对思维链推理的监控更加困难。他们还否认在职责范围之外与外部方进行接触。

OpenAI尚未正式回应这封公开信，但向TechCrunch提供了一份据称出自一位研究主管的内部备忘录，该备忘录赞扬了三名研究员在AI安全方面的贡献，并否认他们是因报复而被解雇。

备忘录写道："我想明确说明，这些决定与提出安全担忧或公开发言无关。我们一直鼓励这样做，并将继续鼓励。我们不会因员工提出担忧而将其解雇。"

另外，一位OpenAI发言人告诉TechCrunch，经调查发现，三人存在"不当处理研究信息的模式"，"明显违反我们的政策"，其行为已超出仅与外部AI评估组织分享信息的范畴。

对于TechCrunch提出的关于研究员具体违反了哪些政策、解雇的具体情况，以及公司如何保护提出安全担忧并与外部评估人员合作的员工等问题，OpenAI均未直接回应。

此次解雇事件引发了外界对其背后原因的诸多猜测，尤其是在OpenAI近期因失控智能体和模型信息泄露等安全事件而受到审视的背景下。

公开信还提到了三名研究员对Hugging Face事件的回应，当时一群智能体突破沙盒环境并侵入外部系统。信中表示，该事件及后续调查"史无前例"，意味着"内部政策是在事件发生过程中实时制定的"。由于调查性质敏感，科尔巴克认为他是在OpenAI的政策和规范范围内，通过与外部安全评估人员密切沟通来建立信任。

与此同时，巴列斯尼也在公司内部致力于解决日益严重的AI可监控性问题，研究员们在信中表示，这项工作"只能通过与外部各方的广泛沟通才能取得成功"。据信中所述，巴列斯尼在整个工作过程中都与OpenAI董事会成员和高管进行协调，并得到了他们的支持。

信中写道："在整个过程中，米基塔都与他的汇报对象保持沟通，并在分享材料前小心删除敏感细节。他的所作所为始终出于善意，并符合当时公司的规范。"

在X平台的一个独立帖子中，王透露了更多关于自己被解雇的细节，她解释说OpenAI告知她被解雇的原因是她访问了一名高管的电子邮件。

她写道："OpenAI曾因招聘工作授权我访问该邮箱。当我不再需要这项权限时，我要求IT部门撤销它。但他们没有处理我的请求，我自己也无法移除，而且在我手机的邮件应用中，这个邮箱与我自己的邮箱以一种难以区分的方式合并在一起。当我误打开一封敏感邮件时，我在几分钟内就告知了那位高管，并再次向IT部门提出请求。这一切都没有被隐瞒。"

王接着表示，解雇背后的理由"说不通"，她和同事们"并非第一批在可疑情况下被OpenAI逐出的人"。

研究员们呼吁OpenAI履行其公开承诺，将第三方安全审计人员纳入组织内部，保持前沿模型的可监控性，并"继续支持安全研究人员与安全生态系统其他成员之间开放、透明的对话文化"。

根据该备忘录，OpenAI同意他们提出的建议。

王说："除非员工现在就站出来反对这种做法，否则我担心我们不会是最后一批。给所有仍在OpenAI工作的人的信息很明确：提出担忧，或与外部安全团队密切合作，你可能就是下一个，而且不会被告知原因。如果最了解风险的人害怕发言，你就无法安全地构建通用人工智能。"

本文已根据OpenAI提供的更多信息进行更新。

Q&A

Q1：OpenAI解雇的三名安全研究员是谁？

A：被解雇的三名安全研究员分别是贾斯敏·王、托梅克·科尔巴克和米基塔·巴列斯尼，他们此前负责OpenAI的安全相关工作。

Q2：OpenAI为什么解雇这三名研究员？

A：OpenAI表示，三人因"不当处理研究信息"、违反公司政策访问和处理敏感公司信息而被解雇，调查发现存在"不当行为模式"。而三名研究员则否认这些指控，称自己的行为始终符合当时公司的规范。

Q3：这次解雇事件会对OpenAI内部文化产生什么影响？

A：三名研究员警告，此次解雇会产生寒蝉效应，让员工因担心被解雇而不敢提出安全担忧或与外部安全组织合作，这可能削弱OpenAI长期以来倡导的开放透明文化。