Ilya曝光70页OpenAI绝密文件

梦瑶 发自 凹非寺
量子位 | 公众号 QbitAI

Ilya偷拍备份的OpenAI机密文件，刚刚曝光。

70页内部证据、200+页私人笔记，偷拍视频、绕开公司系统、用阅后即焚的方式传递消息，甚至上来直接一个大暴击：

Sam Altman撒谎成性！！！（大声.jpg)

《纽约客》刚刚披露这一事件详情，里面的内容堪称抓马：

• 从OpenAI董事会到微软高级高管，跨越20年、横跨多个组织，大家对奥特曼的核心评价几乎都是撒谎成性
• OpenAI的非营利使命要求CEO必须具备诚信的品质，但Ilya后来发现奥特曼恰恰不具备这种品质，甚至恰恰相反…
• 奥特曼被解雇后的5天，在自家豪宅搞了个宫斗备战室，资本、员工、舆论三线齐发，最终董事会无力抵抗！
• 宫斗事件之后，奥特曼不仅没有收敛，反而加速了安全承诺的瓦解，SuperAlignment团队被边缘化。

谁成想呢，本以为再无瓜葛的硅谷甄嬛传，奥特曼和llya的爱恨情仇又又又更新了。

为啥OpenAI首席科学家要用间谍片手法搜集CEO的罪证？

这份备忘录里到底写了什么，让董事会成员回忆时只说了三个字——“He was terrified”？

准备好瓜子儿，大家伙儿边嗑边看吧…

(太精彩了，太精彩了，太精彩了…)

llya偷拍70页OpenAI秘密文件曝光！

山姆·奥特曼，撒谎成性

只能说，OpenAI从一开始，就给自己设了一道几乎不留余地的门槛。

这份70页机密备忘录中提到，OpenAI从创建之初的时候就被被设计成一个的安全性拉满的组织——

非营利结构、董事会优先对人类负责，甚至在极端情况下，可以牺牲公司本身。

也正因如此具备公共利益的性质，所以OpenAI对于CEO的要求同样具备一定特殊性，那就是，必须非常非常非常非常的有信用。

好巧不巧，问题恰恰出在这里。

2019年，Ilya还在OpenAI办公室的时候，为Greg Brockman主持婚礼，甚至安排了一只机械手来担任捧环人。

那个时候，技术、理想、人与人之间的信任看起来是统一的，但随着模型能力不断临界线，他开始重新思考同一个问题：

如果这项技术真的被做出来，谁在控制它，他的答案变得越来越明确，甚至冷静到只剩一句判断：

“我不认为奥特曼是那个能为OpenAI拍板儿的人。”

理由嘛——

llya倒不是怀疑奥特曼能力有问题，主要吧，还是怀疑这个人的人性…

于是乎，接下来llya的一系列操作，只能说已经不太像一家科技公司的内部讨论了，正如我们看到的：

70页材料被系统整理出来，包含Slack记录与内部文件，关键内容用手机拍下，刻意避开公司设备，再通过会自动消失的消息发送给董事会。

一位收到材料的董事后来回忆，看到这个大爆料的时候，他直言：我是真被吓得没边了…

5天宫斗，从F1赛场到豪宅备战室

在Ilya那份70页机密备忘录里，当年的OpenAI宫斗事件被还原得更加具体，也更抓马。（doge）

而且这事儿的开端，本身就带着一点《荒诞感》——

当时奥特曼人在拉斯维加斯看F1，被一通视频电话叫走，电话那头儿，Ilya读了一段极其简短的声明——

他（奥特曼）已经不再是OpenAI的CEO。

没有铺垫，也没有证据披露，更离谱的是，连微软里德·霍夫曼这种级别的核心投资人，事前也完全不知情。

（甚至一度以为是挪用资金这种级别的大雷，结果啥也没查到？？）

听到自己被“斩立决”的消息，当晚奥特曼直接连夜在自己豪宅里直接搭起了一个堪称“拯救奥特曼”主题的临时指挥部。

△图片由AI生成

奥特曼的目的，是迅速推进三件事：

第一，资本施压。

Thrive冻结关键投资，微软直接放话可以另起炉灶：你们可以换CEO，但OpenAI也可以从此消失。

第二，员工站队。

联名信迅速扩散，几乎全员签字，甚至连临时接任CEO、最初站在董事会一侧的Murati，最终也倒向奥特曼，签下支持回归的联名信。

紧接着，便是舆论失控。

董事会选择沉默，奥特曼一方持续释放信息，掌控舆论大局。

结果嘛，就是Ilya最后也不得不松口：如果奥特曼不回来，公司可能会直接崩掉。

五天之后，结局落定—奥特曼回宫，董事会出局。

甚至，OpenAI内部员工还给这场硅谷史上最经典的宫斗反转，起了个名字——The Blip（意为“小插曲”或“短暂失常”）。

The Blip之后，安全承诺开始崩塌

The Blip结束后，OpenAI所发生的变化没有停在权力层面，那套用来“限制权力”的机制，开始逐步松动。

最先出问题的，是资源。

OpenAI曾对外承诺，会拿出20%的算力，用于长期安全研究，这是OpenAI当时最核心的安全底牌。

但实际执行，很快变了味儿——算力占比一路下滑到1%-2%，分到的还是最老的集群、最差的芯片。

当负责人Jan Leike提出异议时，得到的回应是：这件事从一开始就不现实。

从优先事项，变成象征性存在，安全开始失去真正的投入。

第二步，就是流程开始被绕开。

在OpenAI里，原本涉及高风险能力的发布，正常应该需要经过安全委员会审核。

但在后续产品迭代中，一些争议最大的功能都没有走完整审批流程就直接上线，甚至连地区版本的产品，也在安全评估尚未完成的情况下发布。

（流程不流程的，似乎也没那么重要了…)

第三步，是调查失去约束力。

事实上董事会风波之后，OpenAI请来了一家参与过多起公司丑闻调查的律所“WilmerHale”做独立调查。

按这家律所的正常工作流程和外界普遍预期来说，OpenAI的事情会有一份正式、可追溯的书面报告。

但最终的结果是——没有报告。（doge）

调查结论，只以口头形式汇报给新董事会，而不写报告的建议，恰恰来自奥特曼参与选择的董事的私人律师。

三件事儿——先削资源，再松流程，最后弱化调查。

看起来每一步都是轻微调整，但是吧，当系统可以绕过限制，限制本身也就不再存在了。

20年前就有人看透了山姆·奥特曼？

u1s1，围绕奥特曼好的坏的一箩筐评价，并不是在OpenAI才出现的。

事实上跨越20年、横跨多个组织，对奥特曼的核心评价惊人一致，那就是——

这小子，嘴里忒没实话，干事儿忒不着边儿。（doge）

最早的一次，可以追溯到2013年。

当时已故的天才程序员Aaron Swartz，在私下对朋友留下过一句对奥特曼非常极端判断：

你必须明白，奥特曼这个人永远不值得信任，他是个反社会人格的人，为了目的什么都做得出来。

他第一次创业阶段，问题已经出现。

公司内部员工曾两次推动董事会撤换他，甚至需要投资人亲自下场，在公司里盯着他。

到了后来，当他开始进入更核心的创业与投资圈层，问题开始升级——

从内部矛盾，变成信任危机。

内部有人后来直接承认，奥特曼一直在隐瞒事情，比如对外公告不断修改说法， 职位描述一改再改，甚至最后干脆删除等等。

但在正式的监管文件里，他依然被标注在原来的位置上？？

换句话说就是表面在变化，实际关系却没有同步调整。

这些分散在不同阶段的口碑，到了OpenAI，开始集中爆发——

董事会成员给出的评价是：他不受事实的约束，甚至奥特曼还被大家形容为，对欺骗可能带来的后果缺乏基本顾虑。

而另一位高管给出的说法是：他未来，有可能会被放进那些重大商业丑闻人物的序列中被讨论。

喜欢写日记的不正经人还有一个，后来成为Anthropic CEO的Dario Amodei也留下了200多页笔记内容，笔记中包含大量对于OpenAI和奥特曼本人的评价。

尽管和llya算不上啥关系多好的朋友，但是吧，人家和Ilya得出了同一个结论——

那就是OpenAI内部出现的一箩筐问题不在公司系统本身，而是奥特曼本人有问题。

甚至，Amodei的措辞更为激烈，对奥特曼的评价是——他说的话几乎可以确定是胡扯！！！

咋说呢，来源不同、阶段不同，但指向高度一致。

更微妙的是，别看差评如此之多，架不住奥特曼自己的腰板直，在被质疑时，人家奥特曼只是说：

不好意思哈，我无法改变我的性格～（好牛的精神状态）

最后颇值得一提的是，在llya的70页机密备忘录中，还有个蛮值得一瞧的事情，那就是——

在OpenAI的办公区里，”Feel the AGI”的标语随处可见。

这句话最早是Ilya用来警告同事AGI风险的，但是吧，The Blip宫变事件之后，变成了庆祝未来的口号。

（这多少有点地狱级笑话了啊，llya：我？？？）

OMT

家人们，这瓜还没完。

就在刚刚，曝光此备忘录的《纽约客》记者在x上表示，当他们想采访“研究AI生存风险”的研究员时，OpenAI官方回应是：

你说的存在性安全是啥？这东西压根不存在哈～

但是吧，还得是OpenAI，说归说，做归做，这是两码事儿：

就在这篇调查报告发布几个小时后， OpenAI刚巧推出了支持安全研究的项目。（doge）

还得是OpenAI，还得是奥特曼。

（llya：这下你们知道我说的都是实话了吧，这奥特曼是真说一套做一套啊？？）