三名被OpenAI解雇的安全研究员,第一次完整说出了自己这一方的版本。托梅克·科尔巴克(Tomek Korbak)、米基塔·巴莱斯尼(Mikita Balesni)与王茉莉(Jasmine Wang)否认泄露机密信息,质疑公司给出的解雇理由,并猜测这件事和他们一直倡导提升AI系统透明度有关。
![]()
OpenAI的说法是:经过内部调查,认定三人违反敏感信息管理规定,因此将他们辞退。在接受《华尔街日报》采访时,几名研究员对官方说法提出反驳。OpenAI向该报表示,解雇一事和他们提出的安全顾虑无关。但三名研究员称,公司从未以书面形式告知他们究竟是哪些信息被不当处理。
他们还担心,这个事件会让独立安全审计人员不愿再和AI企业合作。
手机、Signal与一周后的解雇
《华尔街日报》的报道还原了这场冲突的起因。OpenAI安全团队怀疑三人向一名外部安全研究员泄露了公司内部模型架构细节,要求他们解锁个人手机。调查人员在手机里发现了开启阅后即焚功能的Signal聊天记录。一周之后,三人同时被解雇。
OpenAI表示Signal并非公司认可的通讯工具,但强调这并不是解雇的理由。科尔巴克则反驳,阅后即焚消息在硅谷本就是常规安全做法。
针对王茉莉的指控则单独成立:OpenAI称她多次访问一名高管的邮箱。她的解释是,自己早在近一年前就申请取消这项权限;上个月只是误点开一封敏感邮件,没有转发、传播内容,并且第一时间上报了该失误。OpenAI表示,权限本身不是问题所在。
争议焦点:能不能核查AI的推理步骤
这场争执的核心是一个影响深远的技术问题:AI企业是否应当允许外部人员查看模型的思考过程。推理型模型会在内部的“思维链”暂存区记录解题的中间步骤,企业和安全研究员依靠这些记录,理解模型做出判断的逻辑。
在2025年的一篇论文中,巴莱斯尼、科尔巴克、王茉莉联合多家AI实验室的顶尖研究者,呼吁持续保留这项可核查能力。今年夏天,这个问题变得更加紧迫:多家AI公司内部开始讨论一类新模型——思考时间更长,但记录下来的中间步骤更少。
巴莱斯尼在公司内部提出异议,转发了当时红杉研究院(Redwood Research)首席科学家瑞安·格林布拉特(Ryan Greenblatt)的相关提案。科尔巴克也和格林布拉特保持频繁沟通。二人通过Slack和Signal协作,共同分析一起备受关注的事件:OpenAI智能体攻击Hugging Face事件。格林布拉特受METR委托,负责这项独立调查。
一篇关于Astra的报道,触发了内部调查
9月1日,The Information刊发报道,称OpenAI新模型Astra能力更强,但暴露出来的推理过程更少。这次合作就此成为麻烦的导火索。当时OpenAI首席科学家雅各布·帕霍茨基(Jakub Pachocki)在X平台评价这篇报道逻辑混乱,但他本人此前就曾警示,整个行业正在竞相研发难以监控的模型。
《华尔街日报》称,几周之后OpenAI启动内部泄密调查。巴莱斯尼说,调查人员认定格林布拉特是消息外泄的接收方,要求调取他们之间的Signal聊天记录。格林布拉特否认向记者传递过机密信息。
科尔巴克认为事件带来的负面影响远不止他们三人。他说,现在同事们不敢和外部人员交流,也不敢在内部提出安全隐患。三名研究员已经致信OpenAI董事会,呼吁加强和外部安全机构的合作。
另外一份刚发布的现场审计报告,也对OpenAI的安全流程提出质疑。METR与红杉研究院的审计人员在核查中发现OpenAI基础设施存在大量安全漏洞,但OpenAI把最终报告将近一半内容做了涂黑处理。
OpenAI也发布了一份新安全架构报告,这套架构运行时断开互联网。公司称相关漏洞已经修复,并于10月初恢复模型训练,还表示很快会公布多项新的外部合作。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.