小扎炮轰AI末日论！超级智能要人人可用，少数人控制才危险

新智元报道

最强的AI太危险，不能随便放出来。

把最强的模型锁起来，是眼下头部实验室的主流做法。

今年的Claude Mythos、OpenAI的GPT-Rosalind，都没有对公众开放，只留给通过资格审核的机构客户。

《时代》周刊把这称作AI行业的新常态：太强的能力，先不发布。

在这套叙事里，AI的危险永远是第一位的。Anthropic的CEO Dario Amodei甚至公开讲过，该给世界留一条退路：必要时放慢，甚至暂停AI开发。

这次小扎要打破的，正是硅谷这一套把危险摆在第一位的叙事。

在他看来，越是强调危险，就越会推出「只能交给少数人」的结论。而这，才是真正危险的地方。

7月28日，他在《华尔街日报》甩出一篇署名评论：《AI的未来属于每个人》（The AI Future Is for Everyone）。

文中，他没止步于力挺开源，而是抛出了开源背后更深的一个问题：

这个时代的决定性问题，不是超级智能会不会出现，而是谁能用上它。

是被少数机构攥在手里、只对几家开放，还是变成一件人人都能用的工具？扎克伯格说，这才是真正应该争论的地方。

他要做的，是把AI巨头的战场，从「谁的模型最强」，拉到「超级智能该由谁控制」。

一封檄文

先向「末日论」开火

扎克伯格这篇文章里，火力率先对准那些兜售「末日论」的同行。

他说，很多正在开发AI的人，言论里充满末日色彩，这很奇怪。

他想不通：一个认定AI会消灭大部分工作、抹掉人类大半价值的人，为什么还要急着把这个未来造出来。

更重要的是，扎克伯格认为，「AI危险到只有极端集中权力才安全」这套逻辑，本身就很危险。

回看历史，指望掌握绝对权力的人足够开明、会仁慈地供养所有人，这种例子从来没有过好结果。

他反对的是「只有少数人控制自动化」

为了讲清楚「权力集中」的问题，扎克伯格举了一个超级智能律师的例子。

假设只有一个人请得起一位超级智能律师。哪怕他理亏，也能在法庭上占尽便宜，社会就会因此变得更糟。

可如果人人都有一位超级智能律师呢？司法反而会比今天更公平、更高效。

扎克伯格的结论是：当每个人都被赋能，人们会自然地相互制衡，也一起制衡大机构的权力。

权力制衡，才是安全真正的地基，而不是把所有筹码押在「某个善良的超级智能」身上。

他还补充道：想靠对齐一个善良的超级智能来解决所有社会问题，行不通。

人类不是单一文化，价值观彼此冲突、诉求各不相同，没有哪一个超级智能能同时讨好所有人。

任何一个「唯一的超级智能」，都注定会牺牲或违背一部分人的价值观。

有意思的是，几个月前奥特曼说过几乎一样的话：「一旦你见识过AGI，你就再也忘不掉了」，那种「非要成为控制AGI的那个人」的念头最危险，唯一的出路是「不让任何人独占这枚魔戒」。

反对权力集中，正在成为硅谷的一种共识。

扎克伯格给出的是一套三段式主张：

以个人赋能作为繁荣之源，以「发明」而非「自动化」作为超级智能的首要用途，以「权力制衡」作为安全的地基。

其中「发明」是他乐观的底气。

在他看来，早期AI只能回答问题、干点例行活儿，但很快它会帮人发现新知识：从研发治病的新药，到找到把生意做大的新路子。

你一天能问的问题有限，它能替你发明的东西却没有上限。

关于就业，扎克伯格真正担心的不是AI自动化本身，他警惕的是自动化的开关只掌握在极少数人手里。

因此，他反复强调平衡：AI既可以是替代人的自动化工具，也可以是帮人扩展技能、开公司的赋能工具。

天平一旦偏向自动化，对就业和经济的冲击可能是负面的；但只要超级智能被广泛分发，他相信未来的工作会更多，而不是更少。

他的理由是：创业不用再先融一大笔钱，门槛大幅降低。经济会因此更有「创业气质」，更多人在小公司工作，而不是挤进大厂。

「人人可用」

不等于「全部开源」

扎克伯格并没有要求把超级智能全部开源。

早在2025年那篇《个人超级智能》（Personal Superintelligence）宣言里，他已经明确写道：面对新的安全风险，Meta会「谨慎决定哪些能力适合开源」，生物风险这类还需要政府和机构之间更多协调。

2025年7月30日，扎克伯格在《个人超级智能》一文中写道，在尽量广泛分享超级智能红利的同时，会谨慎决定哪些能力适合开源。

他在《华尔街日报》这篇文中提到的「谁能获得、用上它」，说的是访问权，不是法律意义上的「谁能拥有」，更不是「把所有能力都开源」。

因此，Meta的真实路线是，「尽可能扩大个人的访问权，同时给最危险的能力留一道发布闸门」，而不是「一股脑全开源」。

理想主义背后

是Meta的最优解

小扎的理想主义，当然也站在Meta的立场上。

跟OpenAI这些闭源大厂不同，Meta不靠卖模型API赚钱，它的命根子是几十亿用户的消费级产品和分发网络。

早在2024年那封《开源AI才是前进之路》（Open Source AI Is the Path Forward）里，扎克伯格就把话挑明了：开放Llama不会像闭源公司那样直接砍掉Meta的收入，反而能帮它建起一个不被对手卡脖子的生态。

2024年7月，扎克伯格在《开源AI才是前进之路》一文中，列举开发者为何需要开放模型：不被单一闭源厂商锁死，开源能撑起一个可自由迁移的广泛生态。

所以「人人可用」既是他描绘的理想，也是最贴合Meta商业位置的一步棋。

这也是Meta连续三年开源叙事的又一次加码：

2024年，他借Linux当年逆袭闭源Unix的历史，论证开放模型为什么更安全、更有利于创新；

2025年，他抛出「个人超级智能」，把Meta的路线和「集中控制、自动化掉所有有价值工作」的路线划清界限；

这一次，他把这套主张提高到了AI权力集中、就业结构、创业机会以及社会制度的高度。

一个CEO的公开立场，总 是和他背后 的公司高度契合。

卖「安全」和API的Anthropic天然更谨慎，靠分发吃饭的Meta天然更开放：每家的开放度，几乎都能从「它靠什么赚钱」倒推出来。

微软CEO纳德拉特意为小扎这篇文章点赞，称赞它是一篇好文章，说大家该一起建一个「赋能个人和组织的前沿生态」。

当然，他认可的只是这个方向，不等于微软已经认同Meta的全部开放权重政策。

但有一点已经变了：这场AI巨头的竞赛，从前比的是谁的模型更强，如今争的是超级智能来了之后，由谁来定规则。

扎克伯格在X上说，接下来还会公布更多关于超级智能世界的「积极愿景」。

但他这篇文章真正抛出的问题，也留给了我们每一个人：

当超级智能真正降临，它到底归谁？

参考资料：

https://x.com/finkd/status/2082160210399948869 https://www.wsj.com/opinion/the-ai-future-is-for-everyone-a0c24e20

https://www.meta.com/superintelligence/

https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/

编辑：元宇