《硅谷最危险的人》七期连载系列之第二期｜杰弗里·辛顿爱徒的70页文件：AI第一科学家为何反目

No.0278

Science Partner

Bring you to the side of science

导 读

你得先认识杰弗里·辛顿的这个得意门生，伊利亚·苏茨克维这位“仙人”。

伊利亚·苏茨克维，1986年生于苏联。发际线后退，双眼深邃，说话时常停顿，眨眼斟酌词语。在同行眼中，他可能是同辈中最有天赋的AI科学家。

他不是那种热衷于聚光灯的人。他是那种会在实验室发现一个新论文、然后从椅子上跳起来跑过走廊对大家大喊“停下手里所有事，就是这个了！”的那种人。2017年他在办公室读到谷歌的Transformer论文时，就干了这件事。而那篇论文，正是今天所有大语言模型的技术基础。

这样一个人，为什么要花时间整理70页文件，弹劾自己的老朋友兼老板奥特曼呢？

走，跟伙伴君来！

今日主笔 | 恒意

杰弗里·辛顿爱徒的70页文件：AI第一科学家为何反目

01. 答案在于他真的相信

了解伊利亚，首先要理解他的世界观。

他真的相信：人类正在制造一种可能比任何核武器都危险的东西。不是假装相信，不是为了融资说说漂亮话，是真的、骨子里相信。他在OpenAI的早期曾对新员工说：“你们将拯救世界。”不是比喻，是字面意思。

随着公司规模的扩大，随着模型一代比一代强，他越来越确信AGI的到来不再遥远。而与此同时，他越来越怀疑：掌控这项技术的那个人，是否配得上这份责任。

他对其他董事说了一句话，后来成为这篇《纽约客》报道的核心引述：“我认为山姆不该是那个手握决策按钮的人。”

02. 那70页里写了什么

伊利亚约请了志同道合的同事，花数周时间，整理了约70页的材料：Slack聊天记录、人力资源文件、相关说明文字。有些图片明显是用手机拍摄的，显然是为了避免在公司设备上留下痕迹。

这份文件以阅后即焚的消息形式发送给其他董事。一名收到备忘录的董事回忆：“他当时极度恐惧。”

这份文件是指控奥特曼的，用最简洁的话说，就是两个字：撒谎。有一份备忘录开头列了一个清单，标题是“山姆一贯表现出……”，第一条就是“撒谎”。具体指控包括：向高管和董事歪曲事实；在内部安全规程上欺骗董事会；就安全审批状态做出虚假声明；向不同人做出相互矛盾的承诺。

03. 其实，还有另一份文件

伊利亚的文件在硅谷被直接称为“伊利亚备忘录”，广为流传。

但《纽约客》的调查其实还披露了另一份此前从未公开的文件：达里奥·阿莫迪（Dario Amodei）在OpenAI任职期间写下的200多页私人笔记，标题叫《我与OpenAI的经历》，副标题赫然写着私密，请勿分享。

阿莫迪是谁？他是OpenAI的前研究负责人，后来离职创立了Anthropic，研发了Claude系列AI工具，现在OpenAI旗下GPT最强劲的竞争对手。

两个人，各自独立、没有密谋，却得出了几乎相同的结论。阿莫迪在笔记里直接写道：“OpenAI最大的问题，就是山姆本人。”

04. 为什么没有人在当时阻止他？

这是这个故事最让人不舒服的地方。

这些担忧不是突然冒出来的。早在Loopt时代，奥特曼的早期员工就观察到他模糊”我或许能做成这件事“和”我已经做成了这件事“的界限。一名曾受投资者委托担任其监护人的资深员工甚至说，极端情况下这会酿成Theranos那样的骗局（Theranos是硅谷历史上最臭名昭著的诈骗案）。但奥特曼每次都能把关键人留住，把反对者化解，在关键时刻找到足够多的盟友。

伊利亚自己，最终也在那场“政变”最关键的时刻动摇了，因为他意识到：如果奥特曼不复职，OpenAI将会覆灭。他为了保住这家公司，亲手瓦解了自己精心策划的弹劾。这或许是整个故事里最令人唏嘘的细节。那么，一个真问题是，后来事实到底证明了，谁才是那个谎言的人呢？

我是恒意，咱们明天继续聊～有了解事情原委的伙伴，欢迎在评论区留言呀～

曾经是亲密伙伴的奥特曼（左）和 苏茨克维 （右）

本文仅作科普分享使用，欢迎小伙伴们点、收藏、关注，以备不时之需，当然更欢迎您把 介绍给周边可能需要的更多伙伴们呀。