《经济学人》封面文章｜美国开始意识到人工智能的危险力量

由于不可抗力的限流导致无法接收推送文章的问题，我们迫切需要以下操作：

点击标题下方蓝字 “一半杯 ” → 点击右上角“...” → 点选“设为星标 ★ ”，这样就更容易找到我们和收到推送文章！

保持爱读文章，保持领先！

在Mythos之后，放任自流的做法在政治上已难以维系，在战略上也不再明智。

是否应当把世界上最强大的新技术托付给少数几个人？五位科技极客名气之大，仅凭名字就足以让人认出他们：达里奥·阿莫代伊(Dario Amodei)、德米斯·哈萨比斯(Demis Hassabis)、埃隆·马斯克(Elon Musk)、马克·扎克伯格(Mark Zuckerberg)和萨姆·奥尔特曼(Sam Altman)。他们对将塑造未来的人工智能模型拥有近乎神祇般的掌控力。特朗普政府一直袖手旁观，即便这些模型已经获得令人瞠目的能力也依然如此。政府相信，私人企业之间不受束缚的竞争，是确保美国在同中国的AI竞赛中取胜的最佳方式。

直到现在。突然之间，美国对AI采取的这种放任式处理方式似乎即将走到尽头。原因在于，这些模型令人眩目的进步同样对美国自身国家安全构成威胁，令特朗普政府中一些原本更担心监管过度的成员感到不安。与此同时，美国选民日益增长的反感情绪正在使AI变成一个政治争议焦点。放任自流的做法在政治上已难以维系，在战略上也不再明智。

分水岭是Anthropic于4月7日宣布推出Claude Mythos。这家模型开发商的最新成果在发现软件漏洞方面表现惊人，一旦落入不当之手，它将威胁从银行到医院等关键基础设施。AI模型也日益带来其他风险，从生物安全隐患到产业化大规模诈骗，不一而足。

Anthropic负责人达里奥·阿莫代伊明智地认为，Mythos过于危险，不适合面向普通用户发布。相反，他将其保留给计算、软件和金融领域约50家大型企业使用，以便这些企业增强自身防御能力。美国财政部长斯科特·贝森特对此深感不安，以至于召集各大银行举行紧急会谈。

这并不是政府第一次采取行动。就在几周前，阿莫代伊拒绝允许Anthropic的模型用于完全自主武器或大规模国内监控，随后五角大楼介入。当时，特朗普政府同样感到警觉，原因也是一家单一企业对一项事关国家安全的技术拥有如此强大的支配力。

选民中的反弹将进一步加大政府干预的压力。民意调查正促使越来越多政界人士认为，AI将成为2028年选举中的重大议题之一。美国人对AI的怀疑程度远高于其他国家民众。十分之七的美国人认为AI将损害就业机会，这一比例较一年前大幅上升，而且他们还远未掌握充分证据。基层对数据中心的反对声浪正在高涨，尽管AI与电价上涨几乎没有关系，甚至毫无关系。作为一个时代风向标，OpenAI负责人萨姆·奥尔特曼的住宅近日已两次遭到袭击。

历史表明，对于AI这样足以改变世界的技术而言，一个Mythos时刻不可避免。从约翰·D·洛克菲勒到亨利·福特，美国伟大的工业创新曾由少数男性主导，而这些人随后获得了极大权势。最终，20世纪各国政府出手驯服权力过大的行业，从拆分标准石油公司的反托拉斯行动，到美联储的创设，再到AT&T的拆分，不一而足。那些年代的政治极化和社会躁动程度至少不亚于今天。而我们的测算表明，如今这些AI诸神的支配地位尚未超过他们那些历史前辈。

但历史同样表明，控制AI将困难重重。部分原因在于，一旦事情出错，代价极高。另一个原因在于，AI正以极高速度演进。

其中的取舍极为尖锐。经济增长将受益于AI红利的快速扩散，但潜在反弹很容易导致监管过度。什么都不做，可能让美国容易受到恶意使用AI引发的混乱冲击；但监管过度则会确保◻️◻️赢得AI竞赛。这使当下成为一个危险时刻。

时间已经不多。两年前，在拜登政府时期，关于监管的讨论主要围绕AI的潜在风险。如今，其能力已经强大到令人警觉，而且每一次发布都会变得更强。创新速度意味着，过去需要几年甚至几十年展开的政府适当角色之争，如今必须在数月内解决。

而且，采取更强干预路径所面临的技术障碍也令人望而生畏。国有化等政府控制工具并不有效，因为优秀工程师可以在企业之间自由流动，算力也已成为一种商品化资源。更糟的是，领先模型开发商只比开源竞争者领先数月，其中也包括◻️◻️的开源竞争者。它们模型的能力迟早会向所有人开放。

即便如此，Mythos时刻仍可能成为控制AI的可行方案开始成形的节点。可信用户将获得最强大新模型的早期使用权：OpenAI正效仿Anthropic，把其最新工具推出给一组有限的、经过审核的网络安全专业人士。在允许这些模型广泛商业化之前，政府可以要求由行业主导的机构对其不同用途进行测试，并出具认证。

极客献礼，不可不防

这一设想对大型模型开发商和政府都有好处。它避开了设立新监管机构的漫长过程。通过只允许少数高端用户使用，它使模型开发商能够收取更高价格，并限制稀缺算力的使用。与此同时，政府可以限制最强大模型的使用者范围，从而降低◻️◻️复制这些模型并更快追赶的风险。

但它也存在严重问题。有限发布将削弱竞争，并增强既有AI公司的影响力。它将减缓AI红利的扩散，并在美国经济内部制造一种双层体系，使大量企业处于不利地位，因为它们会反复被排除在强大新模型的特权性早期访问之外。如果打造AI防御能力需要很长时间，甚至根本不可能做到，又该怎么办？开源模型又怎么办？怎样才能要求它们也遵守这些规则？

建立在这些基础上的监管体系可能会被证明是不公正的。圈内人可以保护自己免受前沿威胁；圈外人则只能寄希望于好运。游说和获取超额利润的空间将极为巨大。这将考验美国现代政治时代最明目张胆腐败的一届政府的诚实与能力。而一种把权力和财富进一步集中到少数AI诸神手中的解决方案，可能会加剧正在让华盛顿感到担忧的那种政治反弹。

此外，Mythos路径至多只能是半套解决方案。AI安全无法仅靠一国之力实现。最终，它将需要国际合作，首先是与◻️◻️合作。如今对网络安全的新关注，也需要同对AI经济和社会影响的紧迫思考相匹配。如何应对就业冲击，以及如何设计一套适应AI时代且有利于劳动者的税制，都是巨大难题，而目前还没有人给出好的答案。这种状况必须改变。Mythos时刻是AI安全的一记警钟。它也要求人们在其他领域进行严肃思考。■