IT之家 7 月 14 日消息,据《商业内幕》13 日报道,OpenAI 安全系统团队负责人约翰内斯 · 海德克即将离职。近年来,OpenAI 安全与对齐团队已有多名员工离开。
OpenAI 首席研究官陈信翰告诉《商业内幕》:“我们感谢约翰内斯为 OpenAI 作出的贡献。研究与安全工作将在米娅 · 格莱泽的带领下迈入新阶段,我们对此充满期待。”
OpenAI 表示,格莱泽将出任研究与安全副总裁,并推动安全工作更深入地融入各研究团队。
此次调整表明,OpenAI 正在重新思考研究与安全工作的关系。OpenAI 发言人说:“只有了解模型的基础能力,才能作出正确的安全决策,只有了解潜在的安全影响,才能作出正确的研究决策。”
OpenAI 表示,确保 AGI 最终问世时造福全人类,是 OpenAI 的使命。“所谓安全,就是在降低 AI 负面影响的同时释放积极价值,因此,安全是我们使命的核心。”
然而,OpenAI 一直未能稳定留住高级安全负责人,一些离职员工还曾公开质疑 OpenAI 是否真正重视安全工作。
曾共同负责 OpenAI 超级对齐团队的扬 · 莱克在 2024 年 5 月离职时直言,OpenAI 更看重推出产品,而不是确保产品安全。“过去几年,安全文化和安全流程已经被光鲜的产品挤到次要位置。”
莱克还表示,OpenAI 必须投入更多资源,为未来更强大的模型做好准备,而制造比人类更加聪明的机器是一项本质上危险的事业。
知名 AI 分析师安德鲁 · 柯伦借用《哈利 · 波特》中的说法,把 OpenAI 安全负责人走马灯般更替的现象形容为一种诅咒。
以下是近年来离开 OpenAI 安全重点团队的八名负责人。
联合创始人伊利亚 · 苏茨克维
OpenAI 联合创始人、长期担任首席科学家的伊利亚 · 苏茨克维于 2024 年 5 月离职。此前,他与莱克共同领导超级对齐计划,研究如何控制未来可能出现的超级智能 AI。
苏茨克维离职时在 X 发文表示,OpenAI 取得的进展“堪称奇迹”。此后,他创立了 Safe Superintelligence,全部研究工作都围绕安全超级智能展开。
联合创始人扬 · 莱克
莱克在苏茨克维离职几天后离开 OpenAI。他公开对 OpenAI 的安全路线提出尖锐批评,并表示,自己与管理层长期存在分歧,最终到了“无法再继续下去的临界点”。
莱克和苏茨克维离职后,OpenAI 解散了超级对齐团队,并把剩余成员调往其他研究团队。莱克随后加入 Anthropic,继续从事对齐研究。
AGI 准备工作高级顾问迈尔斯 · 布伦戴奇
布伦戴奇在 OpenAI 工作六年后,于 2024 年 10 月离职。
布伦戴奇当时在 Substack 发表文章,讨论 AI 可能给世界带来的影响,并写道:“OpenAI 没有准备好,其他任何前沿实验室也没有准备好,整个世界同样没有准备好。”
布伦戴奇写道,选择继续留在 OpenAI,也意味着默认接受 OpenAI 的价值观。“每一名 OpenAI 员工都应认真看待自己的行动和言论,因为两者会塑造组织文化。随着 OpenAI 开始掌握极其先进的能力,员工的行为还可能让未来的发展沿着积极或消极的路径固化。”
研究与安全副总裁翁荔
翁荔的领英资料显示,她在 OpenAI 工作近七年后,于 2024 年 11 月离职。翁荔此前负责安全系统团队。
翁荔在离职声明中没有公开批评 OpenAI,反而肯定了 OpenAI 的工作环境,并表示,OpenAI“在训练模型兼顾强大能力与责任意识方面,已经树立新的行业标准”。
模型政策安全研究负责人安德烈娅 · 瓦隆
瓦隆于 2025 年年底离开 OpenAI。此前,她领导的团队负责确定 OpenAI 模型在敏感场景中的回应方式,包括涉及情感依赖和心理健康危机的对话。
OpenAI 最初只在内部宣布瓦隆离职,她本人没有公开批评 OpenAI。瓦隆后来加入 Anthropic 的对齐团队,继续研究模型行为和安全问题。
前风险准备工作负责人亚历山大 · 马德里
马德里加入 OpenAI 后负责风险准备团队,评估能力越来越强的模型是否可能引发严重风险。2024 年,马德里被调离相关领导岗位,随后把工作重点转向 AI 推理,并于 2026 年 5 月离开 OpenAI。
前首席未来学家约书亚 · 阿基亚姆
阿基亚姆于 7 月离职。此前,他领导使命对齐团队,负责确保 OpenAI 开发和部署 AI 的方式符合非营利使命。
阿基亚姆 7 月在 X 发文表示:“我离职没有某个特定原因,选择现在离开也不是因为某件具体的事。不过,我已经考虑了很长时间,现在感觉时机成熟。全世界已经知道这个秘密,在前沿实验室之外继续推动这项使命,似乎也变得可行了。”
安全系统团队负责人约翰内斯 · 海德克
海德克于 2021 年加入 OpenAI,并在翁荔离职后接手安全系统团队。海德克领导的团队负责在 OpenAI 发布模型前评估风险,并采取措施降低风险。
海德克的计划离职消息于周五公开,此后他没有发表公开声明。OpenAI 表示,OpenAI 正在把安全工作更紧密地纳入整体研究体系,海德克在此期间决定离开。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.