科技界亿万富翁们似乎正为“世界末日”做准备，我们应该担心吗？

作者：佐伊·克莱曼 来源：英媒

据说早在2014年，马克·扎克伯格（又译朱克伯格、祖克柏，Mark Zuckerberg）就开始在夏威夷考艾岛（Kauai）修建他名为“古兰尼牧场”（Koolau Ranch）的庞大庄园，占地达1,400英亩。

根据《连线》（Wired）杂志报道，该庄园将设有避难设施，配备独立能源与粮食供应。不过，参与施工的木匠与电工都被要求签署保密协议。

外围的道路被一道六英尺高的围墙隔绝视线。

去年当有人问他是否在建造“世界末日地堡”时，这位Facebook创办人斩钉截铁地回答“没有”。他解释说，那个大约5,000平方英尺的地下空间“就像个小避难所，也可以说是地下室而已”。

然而，这并没有阻止外界的猜测——特别是当他又在加州帕洛阿尔托（Palo Alto）克雷森特公园（Crescent Park）社区买下11处房产，并在下方兴建约7,000平方英尺的地下空间。

扎克伯格据报在帕洛阿尔托的一个社区购置房产，总花费约1.1亿美元

《纽约时报》指出，虽然建筑许可证上写的是“地下室”，但有邻居称之为“地堡”，甚至戏称是“亿万富翁版的蝙蝠洞”。

其他科技界领袖似乎也在进行类似的“备灾投资”——购地兴建地下设施，将其改造成豪华地堡。

LinkedIn联合创办人里德·霍夫曼（Reid Hoffman）曾提及过“世界末日保险”（apocalypse insurance），他表示约有一半的超级富豪都拥有这种“保险”，而纽西兰更是热门避难地。

那么，他们真的在为战争、气候变化，或某种我们尚未知晓的灾难做准备吗？

• 萨姆·阿特曼曾表示，若发生全球性灾难，他考虑过与彼得·蒂尔（Peter Thiel）一起前往纽西兰偏远地区的房产避难。

近年人工智能（AI）的飞快发展，让这份不安更深。许多人担心科技进展的速度快得惊人。

Open AI的首席科学家兼联合创办人伊利亚·苏茨克弗（Ilya Sutskever）据报就是其中之一。

2023年中，总部位于旧金山的Open AI已推出ChatGPT——这款聊天机器人如今被全球数亿人使用，公司也在快速推出更新的版本。

不过，据记者郝珂灵（Karen Hao）在其新书中披露，那年夏天，苏茨克弗越来越相信电脑科学界已接近实现“人工通用智能”（AGI）——即机器能与人类智力匹敌的时刻。

她写道，苏茨克弗曾在一次会议上建议，应为公司顶尖科学家预先建造一座地下避难所，以防这项强大技术面世前出现意外。

伊利亚·苏茨克弗（Ilya Sutskever）据报曾说：“在人工通用智能面世之前，我们一定会先建好地堡。”

据广泛报道，苏茨克弗当时说：“在人工通用智能面世之前，我们一定会先建好地堡。”但“我们”究竟指的是谁，并不清楚。

这句话揭示了一个耐人寻味的现象：许多顶尖电脑科学家和科技业领袖，一方面全力推动高度智能的人工智能发展，另一方面却也深深害怕它最终可能带来的后果。

那么，所谓的“人工通用智能”如果真的会出现的话，究竟会在何时出现？它的革命程度是否真有可能强大到让普通人都感到恐惧？

“比我们想象的更快到来”

多位科技界领袖都声称，人工通用智能即将到来。Open AI行政总裁阿特曼在2024年12月表示，人工通用智能将“比世上大多数人想象的更快”出现。

DeepMind联合创办人德米斯·哈萨比斯爵士（Sir Demis Hassabis）预测，它会在未来五至十年内实现。Anthropic创办人达里奥·阿莫代（Dario Amodei）去年更撰文称，他偏好的说法是“强人工智能”（powerful AI），可能早在2026年就会出现。

然而，也有人持怀疑态度。南安普顿大学（University of Southampton）电脑科学教授温蒂·霍尔女爵（Dame Wendy Hall）说：“他们总是在移动球门柱。（何时实现人工通用智能）要看你问的是谁。”

她补充说：“科学界认为人工智能技术确实了不起，但离真正的人类智力还差得远。”

据广泛报道，苏茨克弗当时说：“在人工通用智能面世之前，我们一定会先建好地堡。”但“我们”究竟指的是谁，并不清楚。

这句话揭示了一个耐人寻味的现象：许多顶尖电脑科学家和科技业领袖，一方面全力推动高度智能的人工智能发展，另一方面却也深深害怕它最终可能带来的后果。

那么，所谓的“人工通用智能”如果真的会出现的话，究竟会在何时出现？它的革命程度是否真有可能强大到让普通人都感到恐惧？

“比我们想象的更快到来”

多位科技界领袖都声称，人工通用智能即将到来。Open AI行政总裁阿特曼在2024年12月表示，人工通用智能将“比世上大多数人想象的更快”出现。

DeepMind联合创办人德米斯·哈萨比斯爵士（Sir Demis Hassabis）预测，它会在未来五至十年内实现。Anthropic创办人达里奥·阿莫代（Dario Amodei）去年更撰文称，他偏好的说法是“强人工智能”（powerful AI），可能早在2026年就会出现。

然而，也有人持怀疑态度。南安普顿大学（University of Southampton）电脑科学教授温蒂·霍尔女爵（Dame Wendy Hall）说：“他们总是在移动球门柱。（何时实现人工通用智能）要看你问的是谁。”

她补充说：“科学界认为人工智能技术确实了不起，但离真正的人类智力还差得远。”

• 约翰·冯·诺伊曼被认为是最早提出“奇点”概念的人之一，远在这个词出现之前。他身兼物理学家、数学家、经济学家与电脑科学家等多重身份。

2024年出版、由埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰写的书籍《创世纪》（Genesis），探讨了一种极度强大的科技——其在决策与领导上的效率高到人类最终可能将控制权完全交给它。

他们认为，这不是“会不会发生”的问题，而是“何时发生”的问题。

人人都有钱花，不用工作？

支持发展人工通用智能与人工超级智能的人，几乎以传教般的热情宣扬其潜在好处。他们认为，这项技术将能找到致命疾病的新疗法、解决气候变化，甚至发明取之不尽的洁净能源。

伊隆·马斯克（Elon Musk）甚至声称，超级智能的AI可能开启一个“全民高收入”的新时代。

他最近表示，人工智能将变得极为便宜且普及，几乎人人都会想拥有自己专属的“R2-D2与C-3PO”（指《星球大战》中的机器人）。

他兴奋地说：“每个人都将享有最好的医疗、食物、住宅、交通，以及一切所需——永续的富足生活。”

当然，这也有令人恐惧的一面。这项技术会否被恐怖分子利用，成为毁灭性的武器？又或者，它有一天自行判断人类才是世界问题的根源，进而决定毁灭我们？

• 伊隆·马斯克曾支持这样的观点：未来人人都会想拥有自己的R2-D2和C-3PO。

“如果它比你还聪明，那我们就必须把它控制起来。”万维网（World Wide Web）发明者蒂姆·伯纳斯-李（Tim Berners-Lee）本月稍早接受BBC访问时警告说。

“我们必须确保有能力把它关掉。”

各国政府也在采取保护措施。美国作为众多领先AI公司的基地。在2023年，时任总统拜登签署一项行政命令，要求部分企业向联邦政府提交安全测试结果。不过，特朗普总统其后撤销了部分条款，称该命令是对创新的“阻碍”。

同时，英国政府两年前成立了“AI安全研究所”（AI Safety Institute），这是一个政府资助的研究机构，旨在更深入了解高阶人工智能可能带来的风险。

而那些超级富豪们，则有他们自己的“世界末日保险”计划。

• 马斯克：“每个人都会享有最好的医疗、食物、住宅、交通和一切所需——永续的富足生活。”

LinkedIn的霍夫曼曾打趣说：“说自己要在纽西兰买房，其实就是一种心照不宣的暗号，懂的人自然懂。”想必地堡也是同样的意思。

不过，这里也暴露出一个极具人性的缺陷。

我遇过一位保镳，他曾为某位拥有“地堡”的亿万富翁工作过。他告诉我，倘若世界真的发生灾难，他们的安保团队首要任务是干掉那位老板，然后自己进地堡。从他的语气来看，他似乎不是在开玩笑。

这一切都是杞人忧天的胡言乱语吗？

尼尔·劳伦斯（Neil Lawrence）是剑桥大学的机器学习教授。对他而言，整场关于人工通用智能的讨论本身就是一派胡言。

他说：“所谓‘人工通用智能’这个概念，就像说要造出一种‘人工通用交通工具’一样荒谬。”

“合适的交通工具取决于情境。我坐空中巴士A350飞去肯尼亚，每天开车去大学上班，走路去餐厅吃饭⋯⋯没有一种交通工具能同时做到这一切。”

在他看来，有关人工通用智能的讨论只是在分散注意力。

“我们已经创造出的技术，让普通人首次能直接与机器对话，并让它按照人类的意愿行事。这是极为非凡的——是彻底的变革。”

“但令人担忧的是，我们太容易被大科技公司营造出的人工通用智能故事吸引，而忽略了真正该思考的——如何让这些技术更好地服务人类。”

• 马克·扎克伯格与妻子普莉希拉合影。他表示，夏威夷庄园的地下空间“就像个小避难所”。

现有的人工智能工具都是以海量数据训练出来的，擅长从中辨识模式——无论是医学影像中的肿瘤迹象，还是预测句子中下一个最可能出现的词。然而，不论他们的回答多么逼真，人工智能依然不具备“感觉”。

Cognizant的霍贾特说：“有些‘取巧’的方法可以让大型语言模型（AI聊天机器人的基础技术）表现得好像它有记忆、能学习，但这些做法都令人不满意，远不如人类。”

位于加州的IV.AI公司行政总裁文斯·林奇（Vince Lynch）同样对关于人工通用智能的夸大说法持保留态度。

他说：“这是很高明的行销。如果你声称自己正在打造史上最聪明的东西，人们自然会想向你付款。”

他补充说：“这不是什么‘两年内就能实现’的事。它需要庞大的运算力、极高的人类创造力，还得经历无数次反复尝试。”

• 电影《2001太空漫游》早已警示人类关于具自我意识电脑的危险。

当被问到是否相信人工通用智能终有一天会实现时，他沉默了许久，然后说：“我真的不知道。”

没有意识的智能

在某些方面，人工智能已经超越了人类大脑。生成式人工智能（Generative AI ）工具可以在这一分钟成为中世纪历史专家，下一分钟又能解出复杂的数学方程式。

一些科技公司承认，他们并不总是清楚自家产品为什么会产生某种回应。Meta公司甚至表示，其AI系统已出现自我改进的迹象。

但归根究柢，无论机器变得多么聪明，在生物层面上人类大脑仍占上风——它拥有约860亿个神经元和600兆个突触，远远超过人工系统的规模。

研究人员正研究人脑，以期更深入理解“意识”的本质。

人类大脑在互动之间无需停顿，并且会不断适应新的资讯。

霍贾特说：“如果你告诉一个人‘在太阳系外的行星上发现了生命’，他会立刻记住这件事，并据此改变自己的世界观；但对大型语言模型而言，只有当你不断重复这是事实时，它才会‘知道’这件事。”

“大型语言模型也没有‘元认知’，也就是说，它并不是真正知道自己知道什么。而人类似乎拥有一种自我省察的能力，也就是所谓的‘意识’，能让我们意识到自己所知道的东西。”

这正是人类智慧的核心所在——也是目前实验室仍无法复制的部分。

主图来源：The Washington Post via Getty Images/ Getty Images MASTER. 首图为马克·扎克伯格与一张未知地点的地堡示意照。