托马斯·弗里德曼：中美应携手应对人工智能安全挑战

参考消息网5月11日报道 美国《纽约时报》网站5月6日发表题为《中美共同的敌人》的文章，作者是托马斯·弗里德曼。主要内容如下：

中美如今正面临一个全新的共同威胁。这是一种不断扩散的失序风险，若两国无法在竞争的同时开展合作、应对日益增多的挑战，这种风险或将动摇全球稳定，损害两国利益。唯有中美两国携手行动，才能有效应对这些挑战。

世界是“融合的”

首先，鉴于最新的人工智能（AI）模型已展现出惊人的网络攻击能力，中美两国应携手建立防护机制，防止人工智能被恶意利用。

自1972年美国总统尼克松访华以来，两大范式转变重塑了世界。第一大转变（尽管警钟已响彻全球，但仍未被广泛重视）正是新型非对称人工智能工具的出现。这类工具能赋予小型恶意行为体极大能力，无论是恐怖分子、无政府主义者、犯罪分子、政治团体，还是小型国家。

第二大转变与全球化有关。尼克松访华开启了世界从彼此隔绝到紧密连接、进而深度交织的进程。进入21世纪初，中国加入世界贸易组织和互联网的普及让更多地区、更多人能以更低成本、更多方式在更多领域展开竞争、联结与协作。正因如此，我在2005年撰写了《世界是平的》一书。

但技术变革的本质在于，每一次重大进步都比前一次更快，因为它建立在前一时代所释放的工具之上。因此，在我提出“世界是平的”这一说法多年后，技术与其他力量继续演进。正如美国豪社会研究所创始人多夫·塞德曼所言，世界从相互连接走向了相互依存，或如他所说，是从“平的”走向“融合的”。

在平的世界里，你尚可选择拔掉插头；但在融合的世界里，无人能够逃离。如今，我们已是命运与共，休戚相关。

这不仅是因为互联网、智能手机、光纤、卫星及无线通信技术让我们在技术层面以前所未有的方式紧密相连，更因为一系列全球性挑战让我们的命运前所未有地交织在一起。这些挑战影响范围极广，且不受国界限制，任何国家无论实力多强都无法独自应对或逃避。

代理式AI极具威胁

我们清楚这些挑战是什么：减缓气候变化、防止核武器与生物武器扩散、管理全球移民、遏制疫情、维护如今我们都依赖的全球供应链顺畅运转，以及最重要且最紧迫的事项：管控我们亲手创造的新型人工智能物种。

在众多全球性议题上，我们尚且能够通过有限的合作来拖延或是勉强应对，但面对人工智能的网络攻击能力，我们已经没有时间。再没有拖延的余地，已经无路可退。

现在猜猜谁又已经入局？一批新的、极具潜在危险性的行为体，它们不再局限于国家主体，却能同时威胁中美两国。

这就是Anthropic公司与开放人工智能研究中心近期披露的代理式人工智能系统。这类系统可以为小型网络攻击者提供工具，使其能以极低成本扰乱中美两国乃至全球任何国家的经济，而且几乎不需要专业技术。

微软前研究与战略主管、也是我研究人工智能新威胁的导师与合作伙伴克雷格·蒙迪表示：“（中美）两国必须牵头管控它们的传播，并构建防御体系。既要保护自身，也要防范技术泄露后危害他人。”

蒙迪认为：“这应当成为两国携手合作的强大动力，哪怕仅限于这个狭窄的议题，它如今已经对双方构成迫在眉睫的威胁。”

与科技企业协同应对

这并非不切实际的要求。

中美两国应当同我称之为“新I7”的七家企业（Anthropic公司、谷歌/“字母表”公司、开放人工智能研究中心、元宇宙平台公司、阿里巴巴、深度求索、字节跳动）携手合作，在充分发挥新型人工智能模型价值的同时有效防范其最坏影响。仅靠政府无法解决这一问题，企业同样力有未逮。

由于伊朗战争的影响，这一动态并未受到应有的关注。但据报道，美国总统特朗普正考虑在人工智能模型公开前对其实施监管。人们必须清醒认识到：我们正进入一个新时代，私营企业如今掌握的力量堪比裂变原子，它们能够释放的影响力将辐射到各个领域。

“和裂变原子一样，这项技术既可以用来发电，也能制造炸弹。”蒙迪说，代理式人工智能亦是如此，它们既可创造巨大福祉，也能制造武器，而且是极具非对称破坏力的武器。

尽管全球许多领导人尚未完全意识到这一点，但人类历史已经第一次进入这样一个全新阶段：我们必须以地球为尺度，开展治理、创新、协作与共存，才能实现繁荣发展。我们要么构建复杂且自适应的合作联盟来实现这一目标，要么就是一起沉沦。

我们的命运如今已经融合在一起。