顶级计算机专家警告：人工智能“军备竞赛”或将导致人类灭绝

在硅谷闪烁的办公室里，科技巨头们正在进行一场无人能叫停的竞赛。

加州大学伯克利分校的计算机科学家斯图尔特·罗素最近发出了一个令人震惊的警告：全球最大的人工智能公司的首席执行官们已经陷入了一场"军备竞赛"，而这场竞赛有可能导致人类灭绝。罗素是人工智能安全领域的顶级专家，他的话并非危言耸听，而是基于对整个行业现状的深刻观察。在新德里举行的AI影响峰会上，罗素直言不讳地表达了自己的担忧，他说政府允许私人企业拿全球每个人的生命玩俄罗斯轮盘赌，这简直是失职。

经济学困境中的道德两难

罗素提出的问题触及了现代科技产业的一个深层症结。

斯图尔特·罗素是人工智能安全领域的知名人士。

各国和科技企业正在花费数千亿美元建设耗能巨大的数据中心，用于训练和运行生成式人工智能工具。这些中心代表了人类在计算能力上的极限追求，也象征着一种谁先突破谁就赢的残酷竞争。关键的矛盾在于，许多公司的首席执行官私下里都表示他们希望减速或控制这场竞赛，但他们无法单方面做出这个决定。一旦某家公司率先"解除武装"，投资者就会迅速将其驱逐出市场。

这就像一个经典的囚徒困境：每个理性的行为体都知道合作对所有人都更好，但个体激励驱使他们继续竞争。甚至OpenAI的负责人Sam Altman也曾公开表示，人工智能可能会导致人类灭绝。如果连这些系统的创造者都感到恐惧，问题的严重性不言而喻。

从"模仿"到"替代"的恐怖链条

罗素指出，当前的人工智能技术正在创造"人类模仿者"。

这意味着什么呢？这意味着AI系统正在学会模仿人类的所有认知功能，从回答问题到做出决策再到制定计划。一旦系统能够模仿人类，它的自然应用就是替代人类。印度正在经历这种现实的冲击。该国预计未来两年将在人工智能领域投资超过2000亿美元，同时却面临着自己最大的客户服务和技术支持产业可能被大规模自动化的威胁。这种矛盾充分说明了人工智能发展的利弊双重性。

尤其令人担忧的是，人工智能正在加速向超级智能迈进。当一个系统能够在本质上所有认知任务上都超过人类时，人类对其的控制就可能彻底消失。这不是数十年后才会出现的问题，而是当前工程努力的直接结果。

年轻一代的觉醒与集体行动的呼声

罗素观察到，对人工智能的抵触情绪正在年轻人中蔓延。

这不是对技术本身的反感，而是对AI非人化倾向的抵制。当一个系统承担了所有高等认知功能，人类就会被贬低为物理劳动者或纯粹的消费者。年轻人拒绝接受这样的未来，他们在用行动和言论表达这种拒绝。

罗素强调，拯救人类的希望只能寄托在世界各国政府的集体行动上。最近召开的AI影响峰会虽然汇聚了科技巨头和数十个国家的高级代表，但前三届峰会仅促成了科技公司的自愿协议，这远远不够。国际社会需要建立真正有约束力的协议和监管框架，将AI发展的风险降低到可接受的水平。

罗素来到新德里参加AI峰会的核心目的就是促使政府领导人理解问题的紧迫性。他认为，如果各国政府都能认识到超级智能系统失控的风险，就能采取行动，这是现在最关键的任务。时间不会无限期地等待人类做出正确决定，AI技术的发展速度已经超越了人类政治体制的反应速度。