北京
“继续放慢，但你们就是前沿。”在 Anthropic CEO Dario Amodei 呼吁 AI 行业“放慢前沿步伐”、OpenAI CEO Sam Altman公开表示赞同之后，白宫 AI 政策负责人 David Sacks 给出的回应很具攻击性。
他指出，既然 OpenAI 和 Anthropic 已经占据前沿 AI 的事实性领先地位，就不必再假装需要政府许可，也不应借“安全”之名要求暂停反垄断规则，让竞争对手联合起来限制开发。
David sacks 前几天曾指出，考虑到安全问题没有解决，应该直接暂停 Anthropic IPO。
Sacks 反问称，如果 OpenAI 和 Anthropic 真心认为超级智能的风险已经迫在眉睫，最简单的办法就是自己承诺“不构建超级智能”，而不是要求政府为行业协调开绿灯。
他连续发出几个“不要假装”，甚至提到“别再假装 METR 是独立的”，因为“它与 Anthropic 的投资者和员工纠缠在一起”。
而这也是被很多业内人士揪出来的细节。一天前，Anthropic 对齐部门研究员 Joe Benton 宣布离职加入 METR，随后，Amodei 就在长文中宣布将与后者合作，由其作为第三方机构来评估 AI 安全问题。
很多行业人士质疑，这种由头部公司推动的行业协调，究竟是安全治理，还是可能演变成监管俘获和竞争壁垒。
马斯克甚至称，应该推动对前沿模型的“同行评议”，而不是独立第三方。
一个很关键的背景是，OpenAI 确实曾就“行业共同放慢前沿 AI”是否违反反垄断法寻求政府方面的指导。
WIRED 报道称，OpenAI近期曾向国会议员询问，前沿 AI 公司协调放慢开发是否具有法律风险；这正好对应 Sacks 文中对“反垄断法豁免”的攻击。
还有行业人士指出，两家公司都在 IPO 端口，但一再延迟，放缓前沿 AI 的口径也可能是其掩盖财报不过关的借口。
以下为David Sacks 贴文全文——
Dario 写道，我们需要“放慢前沿的步伐”，而 Sam 也表示同意。人们可能会对我的回应感到惊讶：尽管如此，继续前进吧。
你们就是前沿。用任何合理的指标衡量——市场份额、收入增长、模型能力——你们两人已经在前沿智能上形成了事实上的双头垄断。
你们还声称，由于递归自我改进，这种领先优势正在扩大。
我在实验室里看不到你们所看到的那些东西。如果那些尚未发布的模型可怕到让你们觉得应该放慢速度，我支持你们做出负责任的决定。
但别再假装你们需要任何其他人的许可。别再假装反垄断法必须被暂停，以便你们形成卡特尔。别再假装你们需要一个凌驾于产品责任之上的监管审批流程。别再假装 METR 是独立的，当它与 Anthropic 的投资者和员工纠缠在一起时。别再假装你们需要那些相同的评估者来监管那些甚至还没达到前沿的竞争对手。
最重要的是，别再假装放慢速度的动机纯粹是利他主义的。如果你们的产品促成了一次真正破坏性的网络攻击，你们将面临巨大的产品责任风险。市场已经在惩罚那些行为不可预测或未经授权的模型。
在 Hugging Face 事件之后，对于 OpenAI 和 Anthropic 来说，牺牲一些原始能力来换取可靠性和可预测性，简直就是明智的商业决策。如果你愿意，可以称之为对齐。这也只是给客户他们想要的东西。
放慢前沿的步伐，还会为更理性的监管讨论创造喘息空间，而不是 Bernie Sanders 的“全部关闭”。正如你们所知，中国不太可能加入全球协议，这一点也必须纳入考虑。
所以，继续放慢前沿的步伐吧。你们就是那些设定它的人。最简单的办法就是你们同意不构建超级智能。把你们偏好的监管框架作为这种让步的代价，这看起来就像是对公众和政治体系的敲诈。所以，就这么做吧。
如果你们这么做了，你们将为下一次对话赢得好感。如果你们不这么做，我们就会知道这只是又一次监管俘获的尝试——或者是一场选举季的心理战。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
