网易首页 > 网易号 > 正文 申请入驻

OpenAI解散“使命对齐”团队 负责人改任首席未来学家

0
分享至

2月11日,人工智能公司OpenAI证实,已解散其内部“使命对齐”(Mission Alignment)团队,这一团队过去主要负责确保公司研发的人工智能系统“安全、可信,并持续与人类价值观保持一致”。该团队前负责人乔什·阿奇亚姆(Josh Achiam)同时获任新设岗位——OpenAI首席未来学家(Chief Futurist)。

OpenAI方面表示,原“使命对齐”团队的成员已被分配到公司内部的其他岗位,但人数仅为六到七人左右。发言人未透露这些员工具体进入了哪些部门,仅称他们在新岗位上仍从事与以往类似的工作。目前也尚不清楚阿奇亚姆在担任首席未来学家后,是否会重新组建新的团队。

“使命对齐”团队成立于2024年9月,作为OpenAI内部专门研究“对齐问题”的核心力量,致力于确保人工智能系统在复杂、真实世界环境以及对抗性场景中依然能遵循人类意图,避免灾难性行为,并保持可控、可审计以及与人类价值观的一致。OpenAI在其对齐研究博客中曾公开写道,公司希望这些系统能够“在复杂、真实世界情境和对抗性条件下,一贯地遵循人类意图,避免灾难性行为,并保持可控性、可审计性和与人类价值的对齐”。相应的招聘信息也将该团队定位为专注“开发方法,使AI能够在包括高风险或对抗性情境在内的广泛场景中稳健地遵循人类意图”的研究部门。

在新发布的一篇博客文章中,阿奇亚姆详细阐述了自己作为首席未来学家的新角色。他表示,其工作目标是通过研究世界将如何因AI、通用人工智能(AGI)乃至更远未来的技术发展而发生变化,从而支持OpenAI“让AGI造福全人类”的使命。阿奇亚姆还透露,他在新岗位上将与OpenAI技术团队中的物理学家杰森·普鲁特(Jason Pruet)展开合作。

对于此次团队调整,OpenAI发言人将其归因于一家高速发展企业内部常见的“例行重组”。这并非OpenAI首次对安全与对齐相关团队进行组织调整:公司曾在2023年组建“超级对齐”(Superalignment)团队,专门研究AI可能带来的长期生存性威胁,但该团队已于2024年被解散。

目前,阿奇亚姆的个人网站仍将其职务标注为OpenAI“使命对齐负责人”,并称他关注如何确保“人类的长期未来是好的”。其LinkedIn资料显示,他自2024年9月起担任Mission Alignment负责人,直至此次职位变动。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
3800万人围观!黄仁勋辞职后首次发文:英伟达是一生心血,想带大家再冲一次

3800万人围观!黄仁勋辞职后首次发文:英伟达是一生心血,想带大家再冲一次

算法与数学之美
2026-11-18 23:56:49
怎么样,才能够回到从前呢?

怎么样,才能够回到从前呢?

疾跑的小蜗牛
2026-11-07 20:41:36
中国只有这7座真正的国际大都市,其他城市别再争了,差距太大!

中国只有这7座真正的国际大都市,其他城市别再争了,差距太大!

心若琉璃说
2026-10-15 06:45:06
1000人里面有多少能活过70岁?答案出人意料,早了解才能早受益!

1000人里面有多少能活过70岁?答案出人意料,早了解才能早受益!

荷兰豆爱健康
2026-11-19 09:11:24
这一轮资产缩水,几乎没有漏网之鱼!大家都在亏,只是亏的地方不同

这一轮资产缩水,几乎没有漏网之鱼!大家都在亏,只是亏的地方不同

放开他让wo来
2026-11-19 09:41:55
媒体:兰州狱警殴打服刑者致死案再审一审宣判,四狱警分别获刑

媒体:兰州狱警殴打服刑者致死案再审一审宣判,四狱警分别获刑

不惯着
2026-11-19 11:31:54
换中国老板后,星巴克上百家店推“现烤面包”,低至9.9元!

换中国老板后,星巴克上百家店推“现烤面包”,低至9.9元!

职业餐饮网
2026-11-17 22:29:03
说句大实话:全中国只有北京才能完全支撑起七日游,不服来辩!

说句大实话:全中国只有北京才能完全支撑起七日游,不服来辩!

另子维爱读史
2026-10-08 19:43:00
iPhone 20曝四款原型机,钛金属回归!

iPhone 20曝四款原型机,钛金属回归!

果粉之家
2026-11-19 13:11:22
他若不死必是十大元帅之首?毛主席:他比我厉害十倍

他若不死必是十大元帅之首?毛主席:他比我厉害十倍

小豫讲故事
2026-10-07 06:00:15
特朗普来深圳赴会,白宫三巨头全带上了,马斯克也赶来见证历史

特朗普来深圳赴会,白宫三巨头全带上了,马斯克也赶来见证历史

起喜电影
2026-11-20 00:56:46
福州秋假三天,全市几乎挪动了一百万人

福州秋假三天,全市几乎挪动了一百万人

一口娱乐
2026-11-19 07:27:22
1600万网红发避雷视频,阿那亚火速处置,涉事门店直接关停

1600万网红发避雷视频,阿那亚火速处置,涉事门店直接关停

房产衫哥
2026-11-18 08:09:34
为什么中国人能够无条件相信解放军?网友:我觉得我还能活!

为什么中国人能够无条件相信解放军?网友:我觉得我还能活!

夜深爱杂谈
2026-11-09 23:13:49
9000mAh大电池还能这么薄!荣耀700系列仅7.96mm 同容量最轻最薄

9000mAh大电池还能这么薄!荣耀700系列仅7.96mm 同容量最轻最薄

快科技
2026-11-20 00:51:07
年薪仅240万!次轮53号秀正面对决打爆哈登,灰熊又捡到宝了

年薪仅240万!次轮53号秀正面对决打爆哈登,灰熊又捡到宝了

弄月公子
2026-11-19 13:32:31
一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

LULU生活家
2026-10-24 14:40:06
英伟达被指牵线阿里,卷入芯片走私调查

英伟达被指牵线阿里,卷入芯片走私调查

码上闲叙
2026-11-18 16:08:24
格力电器成被执行人

格力电器成被执行人

界面新闻
2026-11-19 11:05:44
为什么妻子不拔网线,丈夫反而戒了熬夜

为什么妻子不拔网线,丈夫反而戒了熬夜

风铃草语
2026-11-19 07:16:48
2026-11-20 02:12:49
cnBeta.COM incentive-icons
cnBeta.COM
提供IT行业即时资讯
73164文章数 70352关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

房产
游戏
亲子
时尚
军事航空

房产要闻

2.5亿!丁村侨中,新动作来了!

《GTA6》智能手机太强太沉浸!R星官方解释原因

亲子要闻

每个男孩妈妈都有一段很难走的路

被叫老板娘7年,张萌终于翻脸

军事要闻

“华盛顿”号航空母舰离开中东地区

无障碍浏览 进入关怀版