网易首页 > 网易号 > 正文 申请入驻

三名被解雇研究员否认泄密,质疑OpenAI透明度之争

0
分享至

三名被OpenAI解雇的安全研究员,第一次完整说出了自己这一方的版本。托梅克·科尔巴克(Tomek Korbak)、米基塔·巴莱斯尼(Mikita Balesni)与王茉莉(Jasmine Wang)否认泄露机密信息,质疑公司给出的解雇理由,并猜测这件事和他们一直倡导提升AI系统透明度有关。


OpenAI的说法是:经过内部调查,认定三人违反敏感信息管理规定,因此将他们辞退。在接受《华尔街日报》采访时,几名研究员对官方说法提出反驳。OpenAI向该报表示,解雇一事和他们提出的安全顾虑无关。但三名研究员称,公司从未以书面形式告知他们究竟是哪些信息被不当处理。

他们还担心,这个事件会让独立安全审计人员不愿再和AI企业合作。

手机、Signal与一周后的解雇

《华尔街日报》的报道还原了这场冲突的起因。OpenAI安全团队怀疑三人向一名外部安全研究员泄露了公司内部模型架构细节,要求他们解锁个人手机。调查人员在手机里发现了开启阅后即焚功能的Signal聊天记录。一周之后,三人同时被解雇。

OpenAI表示Signal并非公司认可的通讯工具,但强调这并不是解雇的理由。科尔巴克则反驳,阅后即焚消息在硅谷本就是常规安全做法。

针对王茉莉的指控则单独成立:OpenAI称她多次访问一名高管的邮箱。她的解释是,自己早在近一年前就申请取消这项权限;上个月只是误点开一封敏感邮件,没有转发、传播内容,并且第一时间上报了该失误。OpenAI表示,权限本身不是问题所在。

争议焦点:能不能核查AI的推理步骤

这场争执的核心是一个影响深远的技术问题:AI企业是否应当允许外部人员查看模型的思考过程。推理型模型会在内部的“思维链”暂存区记录解题的中间步骤,企业和安全研究员依靠这些记录,理解模型做出判断的逻辑。

在2025年的一篇论文中,巴莱斯尼、科尔巴克、王茉莉联合多家AI实验室的顶尖研究者,呼吁持续保留这项可核查能力。今年夏天,这个问题变得更加紧迫:多家AI公司内部开始讨论一类新模型——思考时间更长,但记录下来的中间步骤更少。

巴莱斯尼在公司内部提出异议,转发了当时红杉研究院(Redwood Research)首席科学家瑞安·格林布拉特(Ryan Greenblatt)的相关提案。科尔巴克也和格林布拉特保持频繁沟通。二人通过Slack和Signal协作,共同分析一起备受关注的事件:OpenAI智能体攻击Hugging Face事件。格林布拉特受METR委托,负责这项独立调查。

一篇关于Astra的报道,触发了内部调查

9月1日,The Information刊发报道,称OpenAI新模型Astra能力更强,但暴露出来的推理过程更少。这次合作就此成为麻烦的导火索。当时OpenAI首席科学家雅各布·帕霍茨基(Jakub Pachocki)在X平台评价这篇报道逻辑混乱,但他本人此前就曾警示,整个行业正在竞相研发难以监控的模型。

《华尔街日报》称,几周之后OpenAI启动内部泄密调查。巴莱斯尼说,调查人员认定格林布拉特是消息外泄的接收方,要求调取他们之间的Signal聊天记录。格林布拉特否认向记者传递过机密信息。

科尔巴克认为事件带来的负面影响远不止他们三人。他说,现在同事们不敢和外部人员交流,也不敢在内部提出安全隐患。三名研究员已经致信OpenAI董事会,呼吁加强和外部安全机构的合作。

另外一份刚发布的现场审计报告,也对OpenAI的安全流程提出质疑。METR与红杉研究院的审计人员在核查中发现OpenAI基础设施存在大量安全漏洞,但OpenAI把最终报告将近一半内容做了涂黑处理。

OpenAI也发布了一份新安全架构报告,这套架构运行时断开互联网。公司称相关漏洞已经修复,并于10月初恢复模型训练,还表示很快会公布多项新的外部合作。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
江青自杀前,在狱中写下2个遗嘱,李讷却拒不答应,这是为何?

江青自杀前,在狱中写下2个遗嘱,李讷却拒不答应,这是为何?

文史季季红
2026-06-13 17:55:03
1879年,浙江巡抚谭钟麟午睡起来,路过通房丫头房间时与之发生关系,也就是这一次,这个丫头生下了一位国民政府主席

1879年,浙江巡抚谭钟麟午睡起来,路过通房丫头房间时与之发生关系,也就是这一次,这个丫头生下了一位国民政府主席

饭小妹说历史
2026-10-20 15:47:54
论外卖界的差评有多好玩,我找茬都写不出来这些话

论外卖界的差评有多好玩,我找茬都写不出来这些话

康富贵碎碎念
2026-10-26 11:22:17
江青自杀前,在狱中写下2个遗嘱,李讷却拒不答应,这是为何?

江青自杀前,在狱中写下2个遗嘱,李讷却拒不答应,这是为何?

文史季季红
2026-06-13 17:55:03
易梦玲与胡彦斌分手后瘦成皮包骨,网友调侃:“胡彦斌是减肥药吗”

易梦玲与胡彦斌分手后瘦成皮包骨,网友调侃:“胡彦斌是减肥药吗”

韩小娱
2026-10-26 09:06:40
女朋友的身材太好是什么体验?

女朋友的身材太好是什么体验?

那年秋天
2026-10-26 19:35:24
律师揭秘卖淫5种“新模式”:健身房、剧本杀、上门厨娘都中招!网友:防不胜防

律师揭秘卖淫5种“新模式”:健身房、剧本杀、上门厨娘都中招!网友:防不胜防

一丝不苟的法律人
2026-10-16 12:40:23
iPhone Duo降价,有黄牛感慨“幸亏早二十多分钟出手,晚半小时就少700块”!消费者吐槽“屏幕开裂”,店员:折叠屏易碎是胡说

iPhone Duo降价,有黄牛感慨“幸亏早二十多分钟出手,晚半小时就少700块”!消费者吐槽“屏幕开裂”,店员:折叠屏易碎是胡说

南方都市报
2026-10-26 17:18:32
比赖清德更狂的人出现了,一旦她当上台湾领导人,我军必定收台!

比赖清德更狂的人出现了,一旦她当上台湾领导人,我军必定收台!

晓肂爱八卦
2026-10-20 11:32:57
老汤再爆大瓜:许妈不是一次差点儿被带走

老汤再爆大瓜:许妈不是一次差点儿被带走

渤海草堂2
2026-07-26 00:05:07
哈利伯顿24+10西亚卡姆21+7+6 步行者27分大胜篮网

哈利伯顿24+10西亚卡姆21+7+6 步行者27分大胜篮网

北青网-北京青年报
2026-10-26 14:48:03
19岁王钰栋拒多特租借转投丹麦中日德兰

19岁王钰栋拒多特租借转投丹麦中日德兰

宝哥精彩赛事
2026-10-26 15:56:15
私家车主一个多月接40单顺风车,赚了7000余元,发生事故后保险公司以“跑黑车”为由拒赔,法院判了:不算

私家车主一个多月接40单顺风车,赚了7000余元,发生事故后保险公司以“跑黑车”为由拒赔,法院判了:不算

台州交通广播
2026-10-26 09:52:41
印度男子在美国机场顺走圣罗兰,被抓后辩解:自己平时只买中国产的便宜货,不认识这个大牌

印度男子在美国机场顺走圣罗兰,被抓后辩解:自己平时只买中国产的便宜货,不认识这个大牌

怪味历史连连看
2026-10-12 16:31:18
金粒门上海门店客流爆满,货架被抢空、饮品限购2瓶,周末为保障安全紧急停业,商场:恢复时间待定

金粒门上海门店客流爆满,货架被抢空、饮品限购2瓶,周末为保障安全紧急停业,商场:恢复时间待定

极目新闻
2026-10-26 13:08:25
别再喊055“万吨大驱”了,这次真正在东海扛住美日压力的狠角色

别再喊055“万吨大驱”了,这次真正在东海扛住美日压力的狠角色

果妈聊娱乐
2026-10-24 09:44:55
赌王女儿何超盈家中宴客,拿出“镶钻”大闸蟹,深水湾大宅再曝光

赌王女儿何超盈家中宴客,拿出“镶钻”大闸蟹,深水湾大宅再曝光

陈意小可爱
2026-10-26 08:24:21
离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

扶苏聊历史
2026-10-05 16:42:03
大连英博如果逆袭成都蓉城,夺得中超冠军,是不是史上最水联赛冠军

大连英博如果逆袭成都蓉城,夺得中超冠军,是不是史上最水联赛冠军

体育大学僧
2026-10-26 10:01:43
炸裂!刘涛被当众摸胸!“搂腰”挣扎不脱,瞬间冷脸!对方身份曝光

炸裂!刘涛被当众摸胸!“搂腰”挣扎不脱,瞬间冷脸!对方身份曝光

手工制作阿歼
2026-10-26 14:28:51
2026-10-26 20:35:00
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
196文章数 84关注度
往期回顾 全部

科技要闻

K3.1 Pro发布才两天,Kimi道歉补额度!

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

体育要闻

13年后重回诺坎普,穆里尼奥又滑跪了

娱乐要闻

胡歌杨幂刘诗诗袁弘陈龙结伴去埃及

财经要闻

卢锋:全球失衡背后 大国博弈与多边治理

汽车要闻

云辇-M上车 第二代海豹07让驾驶者也能爱上的家用车

态度原创

艺术
教育
数码
时尚
游戏

艺术要闻

中国最高(在建)摩天轮与全球最深潜水馆综合体,面纱揭开!

教育要闻

看着很难 找对方法秒解

数码要闻

中国家电供应链加速“出海建厂” TCL、追觅等企业跟进

留学赛道,躺满绝望的待业明星

《红色沙漠:绘制未知》10月29日加入海战与建设

无障碍浏览 进入关怀版