OpenAI解散安全任务协调团队

2月12日消息，据TC报道，OpenAI解散了一个团队，该团队专注于确保其人工智能系统“安全、值得信赖，并始终与人类价值观保持一致”（正如该公司自己所描述的那样）。与此同时，该团队的前负责人被任命为公司的“首席未来学家”。

OpenAI 向 TechCrunch 证实，该团队成员已被分配到其他岗位。Platformer最先报道了这一消息。

据称，该已解散的团队成立于2024年9月，是这家初创公司内部专门负责“一致性”研究的部门。“一致性”是业内一个广泛的研究领域，旨在确保人工智能的行为符合人类利益。

OpenAI 的 Alignment Research 博客上的一篇文章宣称： “我们希望这些系统能够在复杂的现实世界场景和对抗条件下始终遵循人类的意图，避免灾难性行为，并保持可控性、可审计性，并与人类价值观保持一致。”

OpenAI发布的 Alignment 团队招聘启事称，该团队致力于人工智能研究，重点是“开发能够使人工智能在各种场景（包括对抗性或高风险场景）中稳健地遵循人类意图的方法”。

在周三发表的一篇博文中，OpenAI前Alignment团队负责人乔什·阿奇亚姆(Josh Achiam)解释了他担任公司首席未来学家的新角色。“我的目标是通过研究世界将如何因人工智能、通用人工智能以及未来的发展而改变，来支持OpenAI的使命——确保通用人工智能造福全人类，”阿奇亚姆写道。

阿奇亚姆指出，在他的新职位上，他将与 OpenAI 技术人员中的物理学家杰森·普鲁特合作。

OpenAI 的一位发言人表示，Alignment 团队的其他成员——六七人——已被重新分配到公司其他部门。该发言人无法透露这些团队成员的具体去向，但表示他们在新岗位上从事类似的工作。此外，目前还不清楚 Achiam 是否会组建新的团队，作为其“未来学家”角色的一部分。

发言人将球队解散归因于快速发展的公司内部发生的例行重组。

OpenAI 之前曾有一个所谓的“超级联盟团队”，该团队成立于 2023 年，专注于研究人工智能带来的长期生存威胁，但该团队于 2024 年解散。

阿奇亚姆的个人网站仍然显示他是 OpenAI 的使命协调负责人，并称他致力于确保“人类的长期未来是美好的”。他的LinkedIn 个人资料显示，他自 2024 年 9 月起担任使命协调负责人。（鞭牛士、AI普瑞斯编译）