OpenAI公司架构进化的一封信和争议

OpenAI董事会有一个更新后的计划，用于发展OpenAI的架构。

OpenAI成立时是一个非营利组织，并且今天由该非营利组织监督和控制。未来，它将继续由该非营利组织监督和控制。

我们的营利有限责任公司，自2019年起从非营利机构转型为公益公司（PBC）- 这是一种以使命为驱动的公司结构，必须考虑股东的利益和使命。

该非营利组织将控制并成为公益公司的大股东，这将为该非营利组织提供更好的资源来支持许多利益。

我们的使命仍然是一样的，中心将保持同样的使命。

我们决定让非营利组织继续控制OpenAI，听取了公民领袖们的意见，并与特拉华州检察长办公室和加利福尼亚州检察长办公室进行了建设性对话。我们感谢两个办公室，并期待继续这些重要对话，以确保OpenAI能够继续有效地追求其确保人工通用智能造福全人类的使命。以下是Sam致我们的员工和利益相关者的一封信，解释了为什么我们对这个新方向感到如此兴奋。——Bret Taylor

1、山姆写给员工的信

OpenAI不是一家普通的公司，也永远不会是。

我们的使命是确保人工通用智能（AGI）造福全人类。

当我们开始创立OpenAI时，我们并没有详细的计划如何去实现我们的使命。我们开始时围坐在厨房的桌子旁，想着我们应该做哪些研究。那时，我们并没有考虑产品、商业模式。我们无法想象人工智能被用于医疗建议、学习、提高生产效率等直接带来的益处，也无法想象需要数千亿美元的计算资源去训练模型和为用户提供服务的需求。

我们真的不知道人工智能通用技术（AGI）将如何被构建或使用。很多人可以想象出一个预言者，能够告诉科学家和总统们该做什么，尽管这可能是非常危险的，也许那些少数人可以被信任。

很多早期在OpenAI周围的人认为，人工智能应该只由一些受信任的人掌握，他们能够“处理它”。

我们现在看到了一种让人工智能直接赋予每个人作为人类历史上最强大工具的方式。如果我们能做到这一点，我们相信人们将为彼此创造令人难以置信的事物，并继续推动社会和生活质量的进步。当然，它并不会全部被用于善良，但我们相信人类并认为善良将远远超过恶劣。

我们致力于走向民主人工智能的道路。我们希望将令人难以置信的工具交到每个人手中。我们对他们用我们的工具所创造的作品感到惊讶和高兴，以及他们想要使用这些工具的程度。我们希望开源非常强大的模型。我们希望在较宽松的范围内给予用户很大的自由，即使我们并不总是分享相同的道德框架，并且让用户决定ChatGPT的行为。

我们相信这是未来最好的路径——AGI应该使全人类能够互惠互利。我们意识到有些人持有非常不同的观点。

我们想要为世界构建一个智能大脑，并使人们可以轻松地将其用于他们想要的任何事情（受到一些限制；例如，自由不应损害其他人的自由）。

人们正在使用ChatGPT来提高他们作为科学家、编程人员等的生产力。人们正在使用ChatGPT来解决他们面临的严峻医疗挑战，并学到比以往更多的知识。人们正在使用ChatGPT获取关于如何处理困难情况的建议。我们非常自豪能够提供这样一项服务，这项服务为如此多的人做了这么多事情；这是我们能想象到的最直接实现我们使命的方式之一。

但是他们想要更多地使用它；我们当前无法提供世界想要的那么多人工智能，我们不得不对我们的系统进行使用限制并以较慢的速度运行它们。随着系统变得更加强大，他们将希望更多地使用它，用于更多更美妙的事物。

我们在近十年前启动我们的研究实验室时，完全没有想到世界会变成这个样子。但现在看到这个画面，我们感到非常激动。

是时候让我们改变结构了。我们希望实现三件事：

1）我们希望能够以一种可以使我们的服务广泛面向全人类的方式运作，并从中获得资源，这目前需要数千亿美元，并可能最终需要数万亿美元。我们相信这是我们履行使命、让人们利用这些新工具相互创造巨大利益的最佳方式。

2）我们希望我们的非营利机构成为历史上规模最大、效果最显著的非营利机构，专注于利用人工智能实现对人们的最高级别影响。

我们希望提供有益的通用人工智能。这包括为安全性和对齐性的形成做出贡献；我们为我们所推出的系统、我们所进行的对齐性研究、诸如红队测试等过程以及通过模型规范等创新揭示模型行为的透明度感到自豪。随着人工智能的加速发展，我们对安全的承诺更加坚定。我们希望确保民主人工智能胜过威权主义人工智能。

3）我们决定让非营利组织继续控制，听取了公民领袖的意见，并与加州和特拉华州检察长办公室进行了讨论。我们期待在与他们、微软和我们新任命的非营利组织委员会成员的持续对话中推进这一计划的细节。

OpenAI成立时是一个非营利组织，今天仍然是一个监督和控制营利部门的非营利组织，并将继续是一个监督和控制营利部门的非营利组织。这一点不会改变。

非盈利机构下的营利性有限责任公司将转变为具有相同使命的公益责任公司（PBC）。PBC已成为其他AGI实验室（如Anthropic和X.ai）以及许多以使命为驱动的公司（如Patagonia）的标准盈利结构。我们认为这也适合我们。

与我们当前的复杂的盈利上限结构不同。这种结构在看起来可能会有一个主导的人工智能努力的情况下是有意义的，但在一个存在许多优秀人工智能公司的世界中则无意义。我们正在转向一个每个人都持有股份的正常资本结构。这不是一笔交易，而是转变为更简单的结构。

该非营利组织将继续控制PBC，并将成为PBC 的大股东，其持股比例由独立财务顾问支持，为非营利组织提供资源以支持项目，让人工智能造福于许多不同社区，符合使命。随着PBC 的发展，非营利组织的资源也会增长，这样就可以做更多的事情。我们很高兴很快将从我们的非营利委员会那里得到建议，看看我们如何可以确保人工智能造福于每个人，而不仅仅是少数人。他们的想法将集中在我们的非营利性工作如何支持更加民主的人工智能未来，并在健康、教育、公共服务和科学发现等领域产生真正的影响。

我们相信这使我们能够继续快速、安全地取得进步，并将强大的人工智能置于每个人的手中。创造AGI是我们在人类进步道路上的一块砖头；我们迫不及待想看看您接下来会增加哪些砖头。

山姆.奥尔特曼（Sam Altman） 2025

2、行业分析师的评论及异议

OpenAI受到的一封新的法律信函直接指出了OpenAI正试图欺骗董事会成员接受的金钱和权力掠夺行为，一位分析师称之为“千年大盗”。

这起案子的简单事实既令人震惊，又暗中令人发笑。

为您解释以供娱乐。

"非谋取私利"信件是为相关的总检察长写的，并由3位诺贝尔奖得主与数十位顶尖机器学习研究人员、法律专家、经济学家、前OpenAI员工和民间社会团体签署。（下文链接）。

OpenAI试图转型为营利性公司的做法被指是完全非法的，就像你可能天真地期望的那样。

它随后要求检察长采取一些我从未见过讨论过的极端措施。以下是它们如何提出他们的激进要求。

9年来，OpenAI及其创始人不厌其烦地强调非营利性控制对以下方面至关重要：

l防止少数人集中巨大权力

l确保人工通用智能（AGI）的好处与全人类共享。

l避免为了变得更加富有而冒着危害他人生命的风险。

他们告诉我们这些承诺是法律约束力的，不可逃避的。他们并不是为了金钱或权力。我们可以相信他们。

"目标不是建立通用人工智能，而是确保通用人工智能造福人类"，OpenAI总裁格雷格·布洛克曼说道。

而且，OpenAI的慈善宗旨，其董事会在法律上有义务追求的是“确保人工通用智能造福所有人类”，而不是推动“任何个人的私人利益”。

100多位顶尖研究人员选择以低于市场水平的薪水加入OpenAI工作，部分是基于这种理想主义动机。这是OpenAI招聘和公关策略的核心。

现在是2024年。这种理想主义已经得到了回报。OpenAI是世界上最热门的公司之一。资金正在滚滚而来。

但现在突然有人告诉我们，他们成为历史上增长最快的初创企业之一的设定，这个设定据说是完全必不可少的，使他们与竞争对手区别开来，并且让我们能够信任他们的保护措施，全部必须尽快撤销。

1.非营利组织（因而包括人类整体）是否有权获得数万亿的超额利润？不再存在。（猜猜那些钱现在会去哪里！）

2.非营利组织对AGI的所有权以及对其建成后实际使用方式的影响能力？不复存在。

3.非营利机构如果OpenAI进行有害于人类的令人不快的行为有权（并有法定义务）提出异议？消失了。

4.若必要为避免有害的军备竞赛或联合力量有助于击败中国，愿意协助另一个AGI 项目的承诺？已消失。

5.多数董事会由在OpenAI 中没有大量个人财务股份的人控制？ 在OpenAI中，由那些没有巨额个人财务利益的人控制多数董事会？不复存在。

6.法院或总检察长是否有权反对，如果他们背离了所声明的慈善宗旨，即造福人类？已经消失，消失，消失！

从信件中截图：

(I'll do a new tweet after each image so they appear right.) 1/ -> (我会在每张图片之后发布一条新的推文，这样它们就会正确显示。) 1/