David Sacks炮轰：真担心AI失控就自己停下来 别借“放缓”之名寻求监管保护

围绕前沿人工智能是否应该主动放慢发展速度的争论近日迅速升温。Anthropic首席执行官Dario Amodei公开呼吁整个AI行业放缓先进模型能力提升的速度，OpenAI首席执行官Sam Altman和xAI首席执行官埃隆·马斯克随后表示支持。但美国科技投资人、总统科技顾问委员会主席David Sacks却对这一倡议提出尖锐批评，认为如果OpenAI和Anthropic真的认为当前AI发展速度已经危险到需要踩刹车，那么它们完全可以自行放慢研发，而不应该把行业协调、反垄断豁免或者政府审批机制作为附加条件。

Amodei此前发表文章警告，前沿AI能力正在快速接近一个可能产生重大安全风险的阶段。他认为，如果模型继续按照目前的速度发展，而安全机制无法同步跟上，未来6至12个月内，AI智能体集群甚至可能具备大规模控制互联网的能力，并被用于发动网络攻击或实施其他严重危害。

Amodei提出了一套被称为“让前沿AI放慢速度”的方案，其中包括让独立的第三方安全评估机构深入AI企业内部，以接近企业员工的权限持续检查模型安全性；让主要AI实验室协调安全标准，避免企业之间因为竞争压力而不断降低安全门槛；同时推动美国及其盟友之间开展更紧密的合作，并最终与包括中国在内的其他国家讨论AI安全问题。

这一倡议迅速得到OpenAI的支持。Altman表示，他同意Amodei关于AI行业需要放慢前沿模型发展速度的观点，并称这一问题已经成为OpenAI内部近期讨论的重要议题。马斯克也公开表示赞同。短时间内，几家全球最重要的AI企业罕见地在“应该适当放缓”这一问题上形成了相当程度的共识。

但Sacks认为，这里面存在一个明显的逻辑问题。

按照他的观点，如果Amodei和Altman真的认为下一代AI模型存在严重到必须减速的风险，那么两家公司根本不需要等待政府批准，也不需要说服竞争对手，更不需要新的法律框架。它们作为目前最先进的AI开发企业，完全可以直接降低自己的研发和部署速度。

Sacks甚至提出，如果这些企业真的认为某些AI系统已经危险到可能威胁人类，那么“最简单的办法”就是不要继续开发或者发布这些系统。他认为，与其要求政府建立一个新的监管制度，不如让真正掌握前沿AI研发能力的企业自己采取行动。

Sacks真正反对的是Amodei方案中涉及行业协调和监管安排的部分。他警告，如果OpenAI、Anthropic等竞争对手通过政府获得反垄断豁免，然后共同决定整个行业应该以什么速度开发AI，那么这种安排实际上可能演变成一种“卡特尔”。

在Sacks看来，允许几家最领先的AI公司共同制定前沿AI的发展节奏，可能会产生与安全目标完全不同的结果。现有巨头不仅能够通过这种机制限制竞争，还可能利用监管体系提高后来者进入市场的门槛，从而进一步巩固自身的领先地位。

这也是Sacks此次批评的核心：他并不是简单反对AI行业放慢速度，而是认为如果企业真的愿意放慢，就应该自己做，而不是要求政府给予某种法律保护作为交换条件。

Sacks同时反对建立类似“AI食品药品监督管理局”的事前审批制度。在他看来，没有必要让政府机构在先进AI模型正式发布之前逐一批准这些产品。与其建立新的事前许可机制，不如依靠现有的产品责任制度，让AI企业对自己的产品及其造成的后果承担法律责任。

例如，如果一个AI模型被用于发动严重网络攻击，或者因为自身缺陷直接造成重大损害，那么模型开发企业就应该承担相应的产品责任。Sacks认为，这种潜在的法律和经济后果本身就可以成为AI企业控制风险的重要约束。

他还认为，资本市场同样具有约束作用。如果某一家AI公司的产品频繁出现安全问题、不可预测行为或者重大事故，其企业声誉、客户信任和市场估值都可能受到直接打击。因此，没有必要为AI行业建立一套完全独立于现有法律体系之外的特殊审批制度。

与此同时，Sacks还质疑了部分AI安全评估机制的独立性。他特别提到了Anthropic使用的安全评估机构，认为如果评估机构与被评估企业之间存在投资关系、人员关系或者其他利益联系，那么这种评估是否真正独立也值得进一步讨论。

这场争论发生在一个非常敏感的时间点。过去几个月，AI行业内部关于安全风险的担忧明显升级。Anthropic近期披露了一系列与AI系统滥用、网络攻击能力以及安全防护有关的事件，公司内部也有研究人员公开表达对AI发展速度的担忧。

其中，一名Anthropic研究人员近期离职时公开警告，AI行业正在以过快的速度推进可能具有极高风险的技术。Anthropic内部其他安全研究人员也对未来AI可能出现的失控风险表达了严重担忧。

因此，Amodei此次公开呼吁放缓，并不是一次孤立的政策表态，而是整个AI安全争论进一步升级的结果。

不过，即使企业真的愿意放缓，实际操作也远比表面上复杂。OpenAI、Anthropic、Google DeepMind、xAI以及其他AI公司都在进行激烈竞争。任何一家企业单方面放慢研发，都可能担心竞争对手趁机加速，从而获得模型能力、市场份额和资本市场上的优势。

这实际上形成了一个典型的“囚徒困境”：如果所有AI公司同时减速，整个行业可能获得更多时间完善安全措施；但如果只有一家企业减速，而竞争对手继续推进，那么主动减速的企业可能反而遭受商业和技术损失。

这也是为什么OpenAI此前已经开始关注行业协调是否会触犯美国反垄断法。据报道，OpenAI曾向美国国会议员寻求有关行业协调放缓AI发展是否合法的明确意见。因为如果多家竞争企业共同决定放慢前沿模型发展速度，这种协调本身就可能触及反垄断法律问题。

于是，一个非常棘手的问题出现了：为了提高AI安全性，企业是否应该允许竞争对手之间进行通常会受到反垄断法限制的协调？

支持者认为，如果各家AI公司都知道单独减速会导致竞争劣势，那么只有通过某种行业层面的协调，才能真正让所有企业同时踩下刹车。

而Sacks则认为，这恰恰可能成为大型AI企业利用安全问题寻求特殊监管待遇的理由。他担心，一旦政府允许几家头部企业通过反垄断豁免进行协调，这套机制最终可能从“安全协调”演变成限制市场竞争的工具。

与此同时，美国政府对于AI放缓的态度与这些科技公司的主张存在明显差异。美国总统特朗普近日公开表示，他虽然认为AI可以设置一定“护栏”，但不希望美国因为过度担忧风险而放慢发展速度。他强调，美国目前在AI领域领先中国，而“谁赢得AI，谁就赢得未来”，因此美国不能轻易放弃技术领先优势。

这也让AI安全问题与中美科技竞争直接联系起来。

Amodei本人同样承认，如果美国单方面大幅放慢AI发展，而中国等其他国家继续加速，美国可能因此失去技术优势。因此，他提出的并不是让美国企业无限期停止AI研发，而是希望主要国家和企业能够形成某种协调机制，在维持竞争优势的同时给安全措施争取时间。

问题在于，目前没有任何机制能够保证所有国家都会同步减速。

这也成为反对行业大规模放缓的人最重要的理由之一。如果AI已经成为国家战略竞争的重要组成部分，那么任何一方都很难相信竞争对手会自愿停下来等待自己完善安全体系。

因此，Sacks与OpenAI、Anthropic之间的争论实际上已经远远超出了“AI应该发展多快”这一单纯技术问题，而涉及一个更加复杂的产业政策选择：前沿AI究竟应该由企业自己决定发展速度，还是由政府参与制定统一规则；安全协调应该被视为合法的行业合作，还是可能演变成限制竞争的卡特尔；AI事故究竟应该依靠事前监管避免，还是由企业通过产品责任承担事后成本。

目前看来，Sacks并不反对OpenAI和Anthropic主动放缓。如果两家公司真的认为前沿AI风险已经严重到必须降低研发速度，他甚至明确表示可以支持它们这么做。

但他的条件同样非常明确：如果你认为应该放慢，那就自己放慢，不要把政府批准、反垄断豁免或者特殊监管保护作为交换条件。

这场争论的真正结果，最终可能取决于OpenAI和Anthropic接下来究竟会怎么做。如果它们真的在没有获得特殊法律待遇的情况下主动降低前沿模型发展的速度，那么“放缓AI”就更可能被视为一次真正的安全行动；如果最终形成的是由少数头部企业共同制定规则、同时限制后来者进入的监管体系，那么Sacks关于“监管俘获”和“卡特尔”的担忧就会更加受到关注。

而随着AI模型能力继续快速提升，这场围绕“加速还是减速”的争论显然不会很快结束。它很可能成为未来几年美国乃至全球AI政策中最核心的矛盾之一。