网易首页 > 网易科技 > 网易科技 > 正文

可能回国?OpenAI 7 年安全元老翁荔宣布离职

0
分享至

刚刚,OpenAI安全系统团队负责人翁荔(Lilian Weng)通过X宣布,将于11月15日离开,结束她在OpenAI长达近7年的职业生涯。

翁荔在离职信中表示,这是一个艰难的选择,并表达了对OpenAI团队及其所取得的成就的感情。

因7天前翁荔刚刚以OpenAi研究副总裁(安全)的身份,现身国内,做《Ai安全与“培养”之道》的分享。一时之间,翁荔离开后是否会选择回国,也成为了大家关注的重点。

翁荔为华人科学家,自加入OpenAI以来,曾在多个关键领域做出贡献。她在2017年初加入,参与了机器人技术和深度强化学习的研究,并为后来的GPT-4以及安全系统的奠定了基础。

她领导应用人工智能研究团队,致力于提升 OpenAI API 的实用性和安全性。特别是在 GPT-4 发布后,她主导了 OpenAI 安全系统的愿景,致力于提升 OpenAI API 的实用性和安全性。

她表示,团队在模型安全、对抗性以及越狱防御等方面取得了进展,为行业树立了新的标准。

翁荔在离职信中表达了对团队的感激之情,并特别提到自己为“o1-preview”模型的安全性感到自豪,该模型被认为是 OpenAI 迄今为止最安全的模型之一。她对未来充满期待,表示将重新开始,探索新的领域。

尽管OpenAI在不断吸纳新成员,但离职潮显然仍在继续。(袁宁)



以下为翁荔公开分享的内容:

亲爱的朋友们,

我做出了离开 OpenAI 的艰难决定。11 月 15 日将是我在办公室的最后一天。

OpenAI 是我成长为科学家和团队领导者的地方,我将永远珍惜与我一路共事和结交的朋友在一起的时光。OpenAI 团队一直是我的知己、老师,也是我认可的一部分。

我还记得2017年OpenAI的使命让我多么着迷,一群人梦想着一个不可能实现的科幻未来。在这里,我开始研究全栈机器人难题——从深度是强化学习算法到装备再到强化—— —目标是教会单台机械手如何解决魔方问题。整个团队花了两年时间,但我们最终实现了。

当OpenAI进入GPT范式时,我们开始探索将最佳AI模型部署到现实世界的方法时,我组建了第一个应用研究(Applied Research)团队,推出了蓝牙式API、嵌入API和审核端点的初始版本,为应用安全奠定了基础,并为众多早期API客户提供了新的解决方案。

GPT-4发布后,我被要求接受一个新的挑战,重新考虑OpenAI安全系统的愿景,把工作集中在一个拥有下面完整安全堆栈的团队中。那是我经历过的最困难、压力最大的这个又是最激动人心的事情之一。现在,安全系统(安全系统)团队拥有超过 80 位优秀的科学家、工程师、产品、经理、政策专家,而我为团队取得的一切成就感到非常自豪。发布的基石——从GPT-4 Window和turbo版本到GPT Store、语音训练和o1。其在这些模型中已经建立了又决策方面为行业制定了工作树立了新的标准。我为我们在o1预测模型方面取得的最新测量成果特别引人注意的是,它是我们迄今为止最安全的模型,在保持真实性的同时,表现出了对越狱攻击的卓越抵抗力。

我们共同取得了令人惊叹的成就:

• 我们训练模型制定者认识到,通过遵循一套定义的明确的政策模型安全行为,可以很好地拒绝敏感或不安全的请求,包括何时拒绝或不拒绝,从而达到安全性和实用性之间取得良好的平衡。

• 在每次模型发布时,我们都提高了其对抗性,包括防御越狱攻击、指定我们的层次结构以及通过推理大幅提升性。我们在口腔方面的承诺都已体现在详细的模型系统卡中。

• 我们开发了多模态的评估模型的行业领先者,并免费分享给公众。我们目前在更通用的监控框架和增强安全推理能力方面的工作将为更多的安全工作流提供支持。

• 我们为安全数据记录、指标、仪表板、主动学习管道、分类器部署、推理时间过滤和全新的快速响应系统建立了工程开发基础。

回顾我们所取得的成绩,我为安全系统团队的每一个人都感到自豪,我非常相信团队将继续壮大发展。我爱你们❤️。

现在,在 OpenAI 工作了 7 年了,我准备重新开始并探索一些新东西。OpenAI 正以火箭般的增长趋势上,希望这里的每个人一切都顺利。

附言:我的博客还在,会继续下去。我可能很快就会有时间更频繁地更新它,也可能会有更多时间来编程;)

延伸阅读
相关推荐
热点推荐
贺子珍始终认定朱道来是战乱之中失散的儿子,可朱道来后来坦言:过去他没有说出所有真相

贺子珍始终认定朱道来是战乱之中失散的儿子,可朱道来后来坦言:过去他没有说出所有真相

磊子讲史
2026-09-16 15:28:05
黄仁勋与黄乐更多照片曝光,老黄没被电到我是不信的

黄仁勋与黄乐更多照片曝光,老黄没被电到我是不信的

杭城村叔
2026-11-16 16:21:12
国足点球争议!主裁认定王钰栋禁区里被犯规 刘建宏:别忘了谁主场

国足点球争议!主裁认定王钰栋禁区里被犯规 刘建宏:别忘了谁主场

风过乡
2026-11-17 21:58:20
79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

背包旅行
2026-11-17 12:11:31
北大研究表明:我国最富的20%的家庭获得了55.4%的医保报销,却只付出了7.9%的代价!

北大研究表明:我国最富的20%的家庭获得了55.4%的医保报销,却只付出了7.9%的代价!

黯泉
2026-11-17 19:26:43
国足2-2巴林!赛后球员评分:仅1人满分 多人不及格 刘洋配不上首发

国足2-2巴林!赛后球员评分:仅1人满分 多人不及格 刘洋配不上首发

侃球熊弟
2026-11-17 22:01:13
郎朗师妹、“钢琴魔女”王羽佳国家大剧院演出迟到17分钟,躲在琴房找感觉,引发观众不满;此前香港站临时缩减演出时长,主办方无奈退款

郎朗师妹、“钢琴魔女”王羽佳国家大剧院演出迟到17分钟,躲在琴房找感觉,引发观众不满;此前香港站临时缩减演出时长,主办方无奈退款

极目新闻
2026-11-17 16:39:40
大反转!英伟达回应“黄仁勋重返”

大反转!英伟达回应“黄仁勋重返”

广告创意
2026-11-17 16:20:37
缺德到这种程度,已经不是讽刺的问题了!

缺德到这种程度,已经不是讽刺的问题了!

胖胖说他不胖
2026-11-17 09:00:28
知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

小徐讲八卦
2026-11-17 14:19:10
男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

网易新闻出品
2026-11-16 18:25:30
再这么搞下去,中国烟草员工的内退潮或将无可避免

再这么搞下去,中国烟草员工的内退潮或将无可避免

别人都叫我阿腈
2026-11-17 04:40:56
法国总统候选人梅朗雄11日晚表示:“中国从地图上被抹去,因为我们欧洲人对中国人发动了战争,摧毁了他们...而现在他们回来了”

法国总统候选人梅朗雄11日晚表示:“中国从地图上被抹去,因为我们欧洲人对中国人发动了战争,摧毁了他们...而现在他们回来了”

扶苏聊历史
2026-11-17 16:26:33
甘肃一小县城因“慢生活”走红:只有5辆出租车,视频点赞数超过当地城镇人口

甘肃一小县城因“慢生活”走红:只有5辆出租车,视频点赞数超过当地城镇人口

上游新闻
2026-11-17 14:44:05
突然,直线拉升!英伟达,重磅来袭!

突然,直线拉升!英伟达,重磅来袭!

证券时报
2026-11-17 20:54:06
77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

回京历史梦
2026-11-17 14:24:26
10月失业率降到5.1%,就业大局稳住了

10月失业率降到5.1%,就业大局稳住了

贝壳财经
2026-11-17 09:40:03
美国首次摊牌:割地换入约,泽连斯基不敢签字,俄罗斯表示没可能

美国首次摊牌:割地换入约,泽连斯基不敢签字,俄罗斯表示没可能

国际法大视野
2026-11-16 19:54:05
特朗普:我认为黄仁勋案没有涉及“间谍”

特朗普:我认为黄仁勋案没有涉及“间谍”

看看新闻Knews
2026-11-17 09:34:14
时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

铁锤侃侃而谈
2026-11-17 10:46:23
2026-11-17 23:55:00

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

"结婚22年两儿子均非亲生"事件女方发声:我没出轨

头条要闻

"结婚22年两儿子均非亲生"事件女方发声:我没出轨

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

时尚
本地
房产
健康
教育

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

5381亩之后,三亚绿谷,等一个500强!

医生眼里"很伤腰"的椅子,很多人天天坐

教育要闻

【预告】11月20日|第152场中小学课堂教学数字化评价与质量提升项目省级教研活动

无障碍浏览 进入关怀版
×