AI会毁灭人类吗？恐慌派、质疑派、中间派各执一词

过去两周，AI行业突然掀起了一场"恐慌潮"。Anthropic研究员雅各布・考克森高调辞职，警告AI"可能在2030年前杀死我们所有人"；Anthropic CEO达里奥·阿莫代伊呼吁放缓前沿AI研发；OpenAI的萨姆·奥尔特曼、马斯克、谷歌DeepMind的德米斯·哈萨比斯纷纷表示支持。一时间，"AI灭绝论"甚嚣尘上。

但当恐慌情绪弥漫的时候，另一群人站了出来，给出了截然不同的判断。

恐慌阵营：AI可能毁灭人类

先看看恐慌阵营的核心论据。

考克森辞职时说，开发AI的人"真心相信，到本十年末，AI可能会毁灭我们所有人"。Anthropic对齐科学负责人埃文·休宾格更是直接回应，AI"毁灭全人类"的概率超过10%。

这个数字是什么概念？如果把10%换算成日常场景，相当于你坐飞机时，每10趟航班就有1趟会坠毁。听起来很吓人，对吧？

图灵奖得主、"AI教父"之一的杰弗里·辛顿也被问到这个问题。他的回答是：10%的概率"并非不合理"，但"没有人真正知道该如何给出一个合理的估计"。他举例说，AI可能设计出"非常恶劣"的生物病毒和计算机病毒，发动"毁灭性的网络攻击"。

另一位图灵奖得主约书亚·本吉奥则表示，前沿AI实验室的科学家对最先进模型拥有独特洞察，"他们的观点对于帮助社会了解情况至关重要，应该受到非常严肃的对待"。

质疑阵营：这是公关套路

就在恐慌言论铺天盖地的时候，质疑的声音同样响亮。

最直接的反击来自电影《大空头》的原型人物史蒂夫·艾斯曼。他在全球金融危机前做空次级抵押贷款一战成名，现在他把矛头对准了AI行业。

艾斯曼认为，顶级AI实验室的恐慌性呼吁背后有某种动机。他告诉媒体："他们意识到自己的业务没有任何护城河，所以试图制造危机。我认为这就是事情的真相。"

他的逻辑很清晰：这些公司看到了制造危机的必要性，这将导致监管，而他们最终可以操纵监管，从而形成双头垄断，以此取代以前围绕他们业务的护城河。艾斯曼特别指出，开放权重模型正在占据很大的市场份额，"这些公司现在非常紧张"。

更犀利的是他的反问："当你们说我们应该放慢脚步，因为情况很危险时，我的回应是'真的吗？那就推迟你们的IPO吧'。说到做到。有人在谈论推迟IPO或推迟融资吗？我什么都没听到。"

AI领域的先驱吴恩达也给出了类似的判断。他表示，有关AI导致人类灭绝的担忧"更像是科幻小说，而非科学"。他说："过去两周，我感到相当沮丧。这波公关宣传如今又卷土重来了，可能也是出于类似的目的。"吴恩达认为，行业可以专注于解决一些"实际的工程问题"，以持续改进和保护这项技术。

另一位"大空头"迈克尔·伯里也发表了类似观点。他表示，谈论人工智能可能带来的危险，有助于在公司准备上市时保持投资者的热情。他认为，这种推动放慢节奏的行为是"自私自利的"。

中间地带：安全是工程问题，不是哲学问题

在这两极对立之间，还有一批人给出了更务实的判断。

AI公司Cohere的联合创始人艾丹·戈麦斯是2017年那篇改变AI历史的论文《Attention Is All You Need》的作者之一，Transformer架构正是这篇论文奠定的。他说："我认为，这些模型是我们迄今创造出来、也是我们见过的最强大的网络武器。它们非常擅长大规模寻找并利用系统漏洞。"

但戈麦斯的结论和恐慌派不同。他认为，导致系统突破防护的，是薄弱的容器安全，"而不是AI系统本身存在某种走向自主化的内在倾向"。换句话说，问题不在于AI"想"毁灭人类，而在于我们把AI放在了不安全的环境里。

这就好比你把一把锋利的刀放在小孩能够到的地方，然后担心刀会"主动"伤人。实际上，刀没有意识，问题在于你放错了位置。

吴恩达也持类似观点。他说AI确实存在风险，包括网络安全方面的风险，但这些是"实际的工程问题"，可以通过持续改进来解决，而不是靠恐慌性呼吁来应对。

亚马逊的选择：不站队，但表态

在争论最激烈的时候，亚马逊首次公开表态。这家公司在AI产业链中扮演着多重角色：自己开发AI模型、为其他AI实验室提供基础设施、还是Anthropic的重要投资方。

亚马逊发言人表示："我们不认为这是在发展与安全之间二选一。模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。"

这个表态很微妙。亚马逊没有跟进呼吁放缓，但也没有否认安全问题的存在。它选择了一条中间路线：安全很重要，但不需要以牺牲发展为代价。

与此同时，英伟达和Meta的CEO本周二表示，AI风险应由各公司自行评估和控制。美国总统特朗普则直接称AI安全担忧是一场"骗局"，称AI唯一需要的"护栏"就是一位强大而聪明的总统。

谁在说真话？

这场争论的本质不是"AI会不会毁灭人类"，而是"谁在利用这个话题达成自己的目的"。

恐慌派的逻辑是：AI很危险，所以我们需要监管，而我们恰好是监管框架下最合规的公司，所以我们应该获得更大的市场份额。

质疑派的逻辑是：你们这些公司制造恐慌，是为了在监管中获得优势地位，本质上是商业策略，不是真正的安全关切。

中间派的逻辑是：安全问题是真实存在的，但它是工程问题，不是哲学问题。我们不需要恐慌，但需要认真对待。

三派人都有道理，也都有各自的私心。真正需要警惕的是，当"AI灭绝论"成为舆论焦点时，那些更紧迫、更现实的AI风险——比如算法歧视、隐私侵犯、就业冲击——反而被淹没了。

我们担心AI毁灭人类之前，或许应该先担心AI正在对人类造成的那些伤害。它们已经发生了，而且每天都在发生。

如果你也觉得这场争论背后的利益博弈值得深思，不妨点个赞让更多人看到；同时欢迎关注我们，AI安全的后续发展和各方博弈，我会持续跟踪解读。