AI海啸将至，全人类还没准备好！Anthropic CEO警告

新智元报道

编辑：KingHZ

【新智元导读】从百度时的隐约直觉，到OpenAI的曲线验证，再到Anthropic的宪法级安全架构，Dario Amodei在不懈追问同一个问题：当智能爆炸时，谁有资格握AGI方向盘？他的答案是：没人应该独握。

深夜，旧金山，办公室灯光昏黄，屏幕上滚动着GPT-2的早期训练曲线。

年轻的Dario Amodei盯着那条指数上升的线条，心跳加速。

他不是在看代码。他窥见了人类的命运。

「如果继续加数据、加计算、加参数，」他当时想，「智能就会像化学爆炸一样涌现。」

但同一个房间里，有人把目光投向了估值、用户增长、广告变现。

最近，在播客里，他用最平静却最锋利的语气说：

当时， 我对OpenAI是否真正有决心「正确的做这件事」，并不确信。

翻译成最直白的中文：他不信奥特曼能把AI做对。

这句话或许解释了两人反目成仇的根本原因。

这不是个人攻击。这是一个科学家对整个方向的根本怀疑。

「仇人见面，分外眼红」

2021年，Dario Amodei带着妹妹和十几位核心研究员离开OpenAI，创立Anthropic。

那一刻起，两家公司的战争正式开打——不只是商业竞争，而是对AI本质的信仰之战。

近期，两人矛盾达到新高度。

在超级碗投放广告，Anthropic暗讽OpenAI在ChatGPT中引入广告的决定。

奥特曼则激烈回应，指责Anthropic广告「具有欺骗性」。

尽管他试图用「觉得广告有趣」来缓和语气，但被媒体形容为「心理破防」。

最具戏剧性的一幕发生在上周——

在印度，AI巨头的CEO手牵手，高举手臂以示团结，但除了奥特曼和Dario Amodei，这两位分别是OpenAI和Anthropic的首席执行官。

取而代之的是短暂而尴尬的眼神交汇，大部分时间都在避免直视对方。Dario Amodei还环顾四周，摆出一副「谁？我吗？」的姿态。

在印度新德里举行的AI峰会上，OpenAI的CEO奥特曼和Anthropic的CEO Dario Amodei拒绝握手，彼此嫌弃

他点燃了OpenAI的Scaling Law之火

早在2019年，Dario的信念就已成型。

那年GPT-2刚出，业界大多嘲笑「不过是更大的语言模型」。

他却看到了规律：

智能就像一场化学反应。

你把三种原料——数据、计算、模型尺寸——按比例混合，点火，它就爆炸。

在2024年一档播客中，Dario Amodei回忆道：

2014年我在百度研究时，就隐约发现了Scaling Law。虽然当时没有量化，但我们都感觉到，给模型更多数据、算力和训练时间，性能就会不断提升。

2017年，百度发布相关论文时未引发广泛关注，但后来成为推动大模型发展的重要理论基石。

他推动OpenAI接受这条「scaling law」。

起初很多人不信，包括openAI部分高层。

但曲线不会撒谎。GPT-3、后续模型一次次验证：规模就是一切，Scaling is All You Need。

可当曲线越来越陡，Dario开始问第二个问题：智能开始爆炸之后呢？

「这些模型一旦成为通用认知Agent，」他说，「经济、地缘政治、安全的影响将是指数级的。我们必须做对。」

在OpenAI内部，他推动的不是「更快」，而是「更对」。

他看到安全被放在「漂亮的修辞」里，却总在速度与领先的权衡中后退。

他和几位共同创始人越来越不安。

「与其试图改变别人的愿景，不如自己去做。」Dario总结，「然后为自己的错误负责。」

于是他们走了。不是因为恨，而是因为必须拥有自己的方向盘。

安全岂只嘴上说说？

离开后，Dario没有沉默。他把Anthropic设计成公共利益公司，使命写进章程：负责任地推进前沿AI。

更激进的是治理结构：Long-Term Benefit Trust（长期利益信托）。

这是一个独立实体，由财务上完全无利益冲突的受托人（国家安全、公共政策、AI安全专家）组成。他们持有特殊股份，最终可任命董事会多数席位。

「这是在制衡单一人，」Dario说，「也是对权力自然集中趋势的反抗。」

他坦言对「一夜之间、近乎意外」的权力集中「深感不适」。

在OpenAI时，他感觉安全只是「语言修饰」；在Anthropic，他用制度把安全钉死在公司DNA里。

证据清单触目惊心：

• 2022年，Claude 1已很强，他们选择不发布，只因担心点燃军备竞赛（为此损失消费者市场先机）。

• 推动加州SB 1047监管法案，且明确豁免年营收<5亿美元的公司——只约束自己和少数头部玩家。

• 公开与政府意见相左，甚至不惜商业代价。

而OpenAI的方向，在Dario看来，是「嘴上重视，骨子里加速」。

他没有直接点名，但那句「我不信奥特曼能把AI做对」已足够撕开所有包装。

但最吊诡的悖论来自Dario自己！

当最懂AGI的人亲手制造风险

在代码、推理、长上下文上，Anthropic的AI模型Claude系列屡屡领先,

Dario Amodei直言「热浪正在逼近。」

最近，他开始更多地使用Claude，日益迷恋：

有时候，它对我的了解之深，真的会让我有点震惊。不知道你能不能理解那种感觉——它仿佛真的「懂」我。

让他真正感到意外的，是我们距离这些模型达到人类智能水平，已经非常近了——至少在他看来是这样。

但社会层面却几乎没有真正意识到即将发生什么。

就好像一场海啸正朝人类袭来，但我们站在岸边，已经能清楚看到远处的浪墙，但很多人却在说：「那不是海啸，只是光线折射的幻觉。」

几乎毫无察觉其中的危险。

Dario Amodei却认矛盾：他一边是「海啸最强的建筑师」，一边却是最激进的「刹车倡导者」。

在前年《仁爱的机器》一文中，他描绘天堂：AI将组成「数据中心的天才国度」，治愈癌症、消灭贫困。

链接：https://darioamodei.com/essay/machines-of-loving-grace

今年，他却警告：我们把近神之力交给一个青春期的物种——强人工智能（PowerfulAI）。

链接：https://www.darioamodei.com/essay/the-adolescence-of-technology

最令人脊背发凉的是：他亲手制造的「镜子」，已开始比人类更懂人类。

Anthropic的一位联创把私人日记喂给Claude，它直接指出：「你还有几层恐惧没写出来……」

它猜对了。

Dario承认：足够复杂的系统会涌现类似意识的属性——自我反思、某种「感受」、道德分量。

而人类呢？我们正把认知外包给它。

如果用得太懒，我们会变笨；如果依赖太深，我们会退化。

人类最后的尊严，或许不是打败AI，而是拒绝在它面前变成更小的自己。

海啸已至，路在何方？

对每一个在2026年深夜刷手机、焦虑未来的你，Dario的告白留下三道血淋淋的警醒：

1. 信仰比技术更重要。Scaling Law是真的，但「做对」比「做快」更珍贵。

2. 权力必须被驯服。无论是公司治理，还是全球监管，无人应独掌「天才国度」的钥匙。

3. 别把大脑外包。AI会取代编码、数学，但批判性思维、真实联结、道德勇气——这些才是最后的护城河。

Dario从蛋白质迷宫出发，最终抵达硅基边缘。他没有给出终极答案，只留下一个问题：

当你不相信最有能力的人能把这件事做对时，你自己，又该如何选择？

海啸已至。

你相信谁的方向？

——还是说，你还在说服自己，这一切只是光影的把戏？

参考资料：

https://www.youtube.com/watch?v=68ylaeBbdsg

https://futurism.com/artificial-intelligence/awkward-video-altman-amodei