往来邮件曝光！OpenAI 刚刚回应马斯克诉讼，消失已久的 Ilya 站台东家

　　‍‍

　　大数据文摘受权转载自头部科技

　　文丨Congerry

　　来了，来了，来了！OpenAI正式回应马斯克的起诉。

　　上周五，马斯克对 OpenAI 的不同实体及其首席执行官 Sam Altman 、总裁Gregory Brockman 提起了长达35页的诉讼。（前情回顾： ）

　　原因是马斯克认为OpenAI违反了非营利使命和开源承诺。

　　而且马斯克在诉讼中提出了多项诉求：

　　要求法院判决OpenAI继续遵循其非营利使命。

　　要求确定GPT-4和Q*（或其他正在开发的下一代大型语言模型）是否构成AGI，并因此超出了OpenAI与微软的许可协议范围。

　　要求赔偿和/或返还因不公平和不当行为而收到的所有资金，以及预审判利息和罚款。

　　要求对OpenAI的资金使用情况进行会计审计。

　　要求赔偿金，包括一般性、补偿性和惩罚性赔偿，这些赔偿金将用于非营利或慈善目的。

　　要求律师费用和利息。

　　针对马斯克的怼脸开大，OpenAI此前一直没有什么特别大的反应。

　　现在OpenAI发博文正式回应马斯克的起诉。先来看看这个博文作者阵容，包括OpenAI 总裁 Gregory Brockman、CEO Sam Altman、OpenAI 联合创始人 John Schulman、OpenAI 联合创始人 Wojciech Zaremba、OpenAI官方以及自去年“OpenAI宫斗”之后就一直未露面的OpenAI 首席科学家 Ilya Sutskever。（马斯克并没有起诉Ilya Sutskever）

　　接下来看看OpenAI主要说了什么。

　　开篇明义，OpenAI首先就声明OpenAI的使命是确保通用人工智能（AGI）惠及全人类。但是OpenAI认为，这意味着既要构建安全有益的AGI，又要帮助创造广泛分布的利益。

　　“我们将与大家分享我们在完成使命方面的心得，以及我们与埃隆之间关系的一些事实。我们打算驳回埃隆的所有指控。”

　　根据马斯克的诉讼文件，Musk（原告）对Sam Altman、Gregory Brockman、OpenAI, Inc. 及其相关实体（被告）提出了以下主要指控：

　　违反合同（Breach of Contract）：原告指控被告违反了OpenAI成立时的“创始协议”（Founding Agreement），该协议规定OpenAI应作为一个非营利组织，开发人工通用智能（AGI）以造福人类，而不是为了追求股东利益的营利公司。原告声称，被告通过将GPT-4等技术独家授权给微软，违反了这一协议。

　　承诺禁止反悔（Promissory Estoppel）：原告声称，被告通过承诺OpenAI将保持非营利性质并开放源代码，诱使原告提供资金和其他资源。然而，原告认为被告未能履行这些承诺，反而将OpenAI转变为追求利润的实体。

　　违反受托责任（Breach of Fiduciary Duty）：原告指控被告未能妥善使用原告的捐款，而是将这些资金用于违反创始协议的营利目的。

　　不公平竞争（Unfair Competition）：原告指控被告通过不公平的商业行为，如虚假宣传和误导性陈述，欺骗原告和其他潜在捐赠者，使他们相信资金将用于非营利目的。

　　会计审计（Accounting）：原告要求对OpenAI的财务进行审计，以确定原告的捐款如何被使用，以及被告是否将这些资金用于个人利益或第三方实体。

　　被告发言：“我们意识到，建立 AGI 所需的资源远远超出了我们最初的想象。”

　　在 2015 年底创办 OpenAI 时，Gregory Brockman 和 Sam Altman 最初计划筹集 1 亿美元。

　　马斯克在一封电子邮件中说 "我们需要一个比 1 亿美元大得多的数字，以免听起来毫无希望......我认为我们应该说，我们从 10 亿美元的资金承诺开始......其他人不提供的，我都会承担。"

　　邮件翻译：

　　博客听起来不错，假设在中立性与以YC为中心之间做出调整。

　　我倾向于将博客定位为更吸引普通公众——让公众支持我们成功有很多价值——然后为招聘提供一个更长、更详细、更深入的版本，并在普通公众版本的末尾附上链接。

　　我们需要提出一个比1亿美元大得多的数字，以避免与谷歌或Facebook的支出相比听起来毫无希望。我认为我们应该说我们从10亿美元的资金承诺开始。这是真的。我会提供其他人不提供的任何部分。

　　模板看起来还可以，除了要转向以股权激励现金奖金作为默认选项，这可以酌情转换为YC或可能的SpaceX（需要了解这会是多少）的股票。

　　OpenAI表示，马斯克说我们应该宣布向 OpenAI 提供 10 亿美元的初始资金承诺。但是这家非营利组织总共从马斯克那里筹集了不到 4500 万美元，从其他捐赠者那里筹集了 9000 多万美元。

　　but，这些似乎和马斯克的指控不大，而且马斯克在诉讼文件当中已经提到了投资4000多万美元。

　　OpenAI接着回应，在2017年初，认识到构建AGI将需要巨额的计算资源。他们开始评估实现AGI可能所需的计算能力，并意识到为了完成这一使命，需要的资金远超他们预期的非营利组织所能筹集的范围，每年可能需要数十亿美元。

　　“这远远超过了OpenAI所有人的能力，特别是马斯克，认为我们作为非营利组织能够筹集到的资金。”（暗示即使是马斯克，也认为这样的资金规模对于非营利组织来说是一个难以达到的目标。）

　　“在2017年底，我们和马斯克决定，为了使命的下一步，是创建一个营利实体。马斯克想要大部分股权、最初的董事会控制权，并成为CEO。”

　　在这些讨论中，马斯克扣留了资金。里德·霍夫曼（Reid Hoffman）填补了这个缺口，以支付工资和运营费用。

　　OpenAI称不能同意与马斯克就营利实体达成协议，因为他们认为任何个人对OpenAI拥有绝对控制权都违背了OpenAI的使命。

　　于是马斯克建议将OpenAI合并到特斯拉。

　　2018年2月初，马斯克转发给OpenAI一封电子邮件，建议OpenAI应该“作为其现金牛附着在特斯拉上”，评论说这是“完全正确的……特斯拉是唯一有可能与谷歌竞争的路径。即使如此，成为谷歌的对手的可能性也很小。它只是不是零。”

　　注："现金牛"（Cash Cow）是一个商业术语，通常用来描述那些能够稳定产生大量现金流的业务或产品。这些业务或产品在市场上通常已经非常成熟，拥有稳定的客户群和较高的市场份额，因此能够持续地为公司带来收入。

　　邮件翻译：

　　很不幸，在人工智能的前沿工作非常昂贵。

　　除了DeepMind，谷歌还有Google Brain、研究和云服务。还有TensorFlow、TPUs，他们拥有大约三分之一的所有研究资源（实际上，他们还举办自己的人工智能会议）。

　　我强烈怀疑，计算能力将是实现通用人工智能（AGI）所必需的（甚至可能是足够的）。如果历史趋势有任何指示，人工智能的进步主要由系统驱动——计算、数据、基础设施。我们今天使用的核心算法基本上自90年代以来没有太大变化。不仅如此，任何在论文中发表的算法进步几乎可以立即被重新实现并整合。相反，没有规模的算法进步是无用的。

　　在我看来，今天的OpenAI正在烧钱，而且其资金模式无法达到与谷歌（一个8000亿美元的公司）认真竞争的规模。如果你无法认真竞争，但继续公开进行研究，实际上可能会让情况变得更糟，因为你的任何进步都很容易被他们复制并立即整合，而且规模庞大。

　　转向营利性可能随着时间的推移创造出更可持续的收入流，并且凭借当前的团队，可能会吸引大量投资。然而，从头开始构建产品会分散对人工智能研究的注意力，这需要很长时间，而且不清楚一家公司是否能“赶上”谷歌的规模，投资者可能会在错误的方向上施加太多压力。我认为最有希望的选择，正如我之前提到的，是让OpenAI依附于特斯拉作为其现金牛。我相信与其他大型公司（例如苹果？亚马逊？）的结合会因为公司DNA不兼容而失败。用火箭比喻，特斯拉已经建立了火箭的“第一阶段”，拥有Model 3的整个供应链及其车载计算机和持续的互联网连接。“第二阶段”将是基于大规模神经网络训练的完全自动驾驶解决方案，OpenAI的专业知识可以显著加速这一进程。如果我们在大约2-3年内实现了一个功能完善的完全自动驾驶解决方案，我们可以销售大量的汽车/卡车。如果我们做得非常好，交通行业足够大，我们可以将特斯拉的市值提高到高O（约100K），并用这些收入以适当的规模资助人工智能工作。

　　我看不到其他任何有潜力在十年内达到可持续的谷歌规模资本的途径。

　　之后，马斯克就离开了OpenAI，并计划在特斯拉内部建立一个AGI竞争对手。

　　当马斯克在2018年2月底离开时，告诉当时的OpenAI团队，他支持OpenAI找到自己的道路来筹集数十亿美元。（这句话非常重要，2019OpenAI就从微软筹到了10亿美元）

　　2018年12月，马斯克给OpenAI发了一封电子邮件说：“即使筹集数亿美元也不够。这需要立即每年数十亿美元，否则就放弃吧。”

　　邮件翻译：

　　我对OpenAI在没有执行和资源方面的重大变化的情况下，对DeepMind/谷歌保持相关性的评估概率是0%。不是1%。我希望情况不是这样。

　　即使筹集数亿美元也不够。这需要立即每年数十亿，否则就放弃吧。

　　不幸的是，人类的未来掌握在……手中。

　　他们做的远不止这些。

　　我真的希望我是错的。

　　接着，OpenAI声称通过构建广泛可用的有益工具来推进OpenAI的使命。

　　“我们以一种能够赋予人们权力并改善他们日常生活的方式，使我们的技术广泛可用，包括通过开源贡献。”

　　OpenAI为当今最强大的AI提供广泛的访问，包括一个每天有数亿人使用的免费版本。例如，阿尔巴尼亚正在使用OpenAI的工具加速其加入欧盟的进程，可能缩短5.5年；Digital Green正在帮助提高肯尼亚和印度农民的收入，通过在OpenAI的基础上建立，将农业推广服务的成本降低了100倍；罗德岛最大的医疗提供商Lifespan使用GPT-4将其手术同意书从大学阅读水平简化到六年级水平；冰岛正在使用GPT-4来保护冰岛语。

　　OpenAI称，马斯克明白，这项任务并不意味着开源 AGI。

　　正如Ilya告诉马斯克的那样 "随着我们越来越接近构建人工智能，开始降低开放程度是有意义的。openAI 中的 "开放 "是指人工智能建成后，每个人都应从人工智能的成果中受益，但不分享科学成果也完全没问题......"，埃隆回答道："是的"。

　　邮件翻译：

　　文章关注的是“硬起飞”（hard takeoff）情景：如果发生了硬起飞，而且安全的人工智能比不安全的更难构建，那么通过开源一切，我们使得那些拥有大量硬件资源且不择手段的人更容易构建不安全的人工智能，这将经历硬起飞。

　　注："硬起飞"（Hard Takeoff）是人工智能领域中的一个术语，它描述了一种假设的情景，即人工智能（AI）的发展在某个点上突然加速，导致AI的能力迅速超越人类。在这种情景下，AI可能在很短的时间内从人类的水平迅速增长到超级智能，这种增长是指数级的，而不是渐进的。

　　随着我们越来越接近构建人工智能，开始减少开放性是有意义的。OpenAI中的“Open”意味着在构建完成后，每个人都应该从人工智能的成果中受益，但不分享科学成果（尽管在短期甚至可能的中期为了招募目的，分享一切绝对是正确的策略）是完全可以接受的。

　　马斯克回复：是的。

　　另外OpenAI还提供了一份未透露发件人的邮件，邮件中提到马斯克和Sam Altman（OpenAI的联合创始人）以及其他OpenAI成员在多个采访中讨论开源人工智能的好处。

　　信件作者指出，他们认为开源AI并不是解决安全问题的万能药，实际上可能因为开源而增加了世界的风险。作者提到了一个博客文章，其中详细阐述了他们认为的开源AI的潜在危险，并表示希望听到马斯克对这些观点的反驳。

　　但是OpenAI没有附上马斯克的回复。

　　邮件翻译：

　　嗨，埃隆，

　　新年快乐！

　　祝贺你成功着陆猎鹰9号，这是一项了不起的成就。现在是时候扩充舰队了！

　　我最近看到你（还有Sam和其他OpenAI的人）在很多采访中都在赞扬开源人工智能的优点，但我猜你意识到这并不是某种灵丹妙药，能够以某种神奇的方式解决安全问题吧？实际上，有很多很好的论点表明你们所采取的方法是非常危险的，实际上可能增加了对世界的风险。一些更明显的观点在这个博客文章中已经很好地阐述了，我相信你已经看过了，但还有其他一些重要的考虑因素：http://slatestarcodex.com/2015/12/17/should-ai-be-open/（一个关于AI是否应该开放的帖子）

　　我很想听听你对这些观点的反驳。

　　最后，OpenAI还进行了一些情绪化的表达。

　　我们很遗憾，与我们深深敬佩的人——一个激励我们追求更高目标的人——走到了这一步——然后告诉我们我们会失败，开始了一个竞争对手，然后在我们开始在没有他的情况下朝着OpenAI的使命取得实质性进展时起诉我们。

　　我们专注于推进我们的使命，还有很长的路要走。随着我们继续改进我们的工具，我们很兴奋地部署这些系统，以便它们赋予每个个体力量。

　　马斯克起诉OpenAI以及OpenAI有一个关键问题，即创始协议的内容。

　　虽然马斯克的起诉文件中中提到了 OpenAI 的“创始协议”，但尚未公开正式协议，而且 OpenAI 的帖子也没有直接解决是否存在该协议的问题。

　　但根据OpenAI的回复给人的感觉，马斯克的这一波操作是“得不到就要毁掉”。

　　对于OpenAI的回应，马斯克暂未回复。作为吃瓜群众，让子弹再飞一会。

　　1、https://openai.com/blog/openai-elon-musk#JohnSchulman

　　租！GPU算力

　　新上线一批4090/A800/H800/H100

　　特别适合企业级应用