AI初创集体跳槽OpenAI，Ilya出走后安全团队重整旗鼓！

新智元报道

编辑：庸庸

【新智元导读】AI安全公司Indent首席执行官Fouad Matin和他的团队将加入OpenAI，致力于为AGI做好安全准备。

上周，在内部的离职潮和外部的口诛笔伐之下，OpenAI可谓是内忧外患：

- 侵权寡姐引发全球热议

- 员工签署「霸王条款」被接连曝出

- 网友细数奥特曼「七宗罪」

辟谣：根据Vox获得的泄露消息和文件，OpenAI的高级领导层，包括Altman在内，非常了解这些股权回收条款，并且签署了它们。

除此之外，还有一个严峻而紧迫的问题摆在OpenAI面前——AI安全。

最近，五名与安全相关的员工离职，其中包括两名最著名的员工，「超级对齐」团队的解散让OpenAI的安全问题再次被置于聚光灯下。

《财富》杂志报道称，OpenAI从未兑现让其超级对齐团队获得其20%计算资源的承诺。

2023年7月，OpenAI成立了一个新团队，致力于确保未来可能比人类加起来还要聪明的人工智能系统能够被安全控制。为了表明该公司对这一目标的重视程度，它公开承诺将投入当时可用计算资源的20%用于这项工作。 现在，还不到一年时间，这个名为「超级对齐」的团队因员工辞职以及OpenAI将产品发布置于人工智能安全之上的指控而被解散，据6位知情人士称，OpenAI从未履行向该团队提供20%算力的承诺。

但在上周四，Indent首席执行官Fouad Matin在X和Reddit上宣布，「我们加入了OpenAI，致力于为AGI做好安全准备！ 」

他在推文中写道，「我很高兴能与一支出色的团队一起保障未来的安全，从前沿模型准备到客户数据控制，确保人工智能安全并造福于每个人是非常重要的。」

看来，OpenAI安全团队正在重整旗鼓，招募新人，那么，刚刚被OpenAI招募的Fouad Matin能否临危受命，「挽大厦于将倾」呢？

Fouad Matin和他的团队

有「不明真相的吃瓜群众」在Fouad Matin的帖子下留言：「我们加入了OpenAI 」中的「我们」是谁？

显然，答案不是「他的两个半脑」那么简单，Fouad Matin背后的资源是他所创办的Indent，Indent正是一家致力于「构建安全的未来」的AI公司。

目前，Indent已经在其官网上发布了「日落通知」，宣布Indent将在今年7月停止服务。

我们创办Indent的目标是帮助团队保护最重要的东西。我们的客户已经保护了从客户数据和生产基础架构到日常业务软件的一切安全，而所有这一切都不会降低团队的速度。 经过慎重考虑，我们做出了一个非常艰难的决定：Indent将在未来几个月内关闭，我们将帮助客户过渡，并继续为实现这一共同目标而努力。 在太平洋标准时间2024年7月15日下午12点之前，团队都可以提出申请，届时服务将关闭。审计日志将提供到7月19日，之后我们将开始数据删除流程。 我们要感谢每一位使用Indent的用户，从第一天就获得访问权的早期创业公司，到使用Indent保护关键任务资源的数百人团队。

Fouad Matin是Indent的联合创始人和CEO，Fouad Matin称，他创办Indent是因为发现大多数公司不知道谁有权访问客户数据，而且对于大多数公司来说，发现这一问题的成本太高，更不用说锁定这些数据了。而Indent可以提供用户友好的访问控制。2021年12月，Indent为按需访问控制融资560万美元。

在2018年创办Indent之前，Fouad Matin还有3段工作经历。

2014年，Fouad Matin曾和其他联创共同创办了一家推荐招聘公司，他在其中负责产品、销售和工程设计。曾参加首届Y Combinator奖学金计划和YC W16。

2016年，他创办了一个无党派非营利组织，致力于为年轻人建立最简单的登记和投票方式，帮助100万人投票。

2017年，他在Segment担任工程师，领导细分角色的产品和工程开发，使客户能够将用户操作解析为配置文件。致力于更好的产品体验设计。

正如Fouad Matin在个人简介中所介绍的那样，他是一名软件工程师和产品设计师，有时也会投资初创公司，在过去几年里，他曾帮助几百万人投票给非营利组织和公司，以管理他们的客户数据。

现在，他在OpenAI从事安全工作。Indent日落，而Fouad Matin将开启他新的职业旅程。

其他成员

在Fouad Matin推文的评论区，有和他相识2年的好友对他表示祝贺，这位好友透露，除Fouad Matin以外，一同加入OpenAI安全团队的还有Dan Gillespie 。

Dan Gillespie 将主要从事的是「建立为AGI到来所需的安全计算平台」。

无独有偶，和Fouad Matin有一点相同的是，Dan Gillespie 也具有投资背景，根据他在领英的介绍，他也曾在Y Combinator任职过，Y Combinator是硅谷最负盛名的创业孵化器，在过去一年投资了260多家AI初创公司，是硅谷乃至全世界AI创业趋势的风向标。

左：Dan Gillespie, 23岁

彭博社观点专栏提出，「2024年5月将被人们铭记为AI安全运动消亡的月份。同时，人们也将记住，5月是AI更安全的工作真正开始的时间。」

OpenAI作为领先的AI公司，能否在消极的声音之下，真正坚持构建一个更加安全的系统，我们希望OpenAI新安全团队能够带来不同。

参考资料：

https://x.com/fouadmatin/status/1793350695476933108

https://fortune.com/2024/05/21/openai-superalignment-20-compute-commitment-never-fulfilled-sutskever-leike-altman-brockman-murati/

https://www.bloomberg.com/opinion/articles/2024-05-21/ai-safety-is-dead-and-chuck-schumer-faces-risks

https://indent.com/blog/announcing-indent