人工智能公司一边预警末日，一边加速研发，引政府出手！

数字时代的技术革命，通常伴随着乐观与兴奋。人们或许还记得，史蒂夫·乔布斯初次发布iPhone时，现场掌声雷动。相比之下，主要人工智能公司似乎采取了一种更阴暗、也更古怪的策略：它们郑重其事地描述自家模型将带来的危害，同时又表现得仿佛对此无能为力。

Anthropic最近就给出了一个典型案例。该公司发布了一份题为《当人工智能构建自身》的惊悚风格报告，称人工智能可能正接近这样一种能力：能够“自主设计并开发自己的继任者”。公司一方面希望这种递归式自我改进能给世界带来“巨大益处”，另一方面也公开担忧，这可能导致人类“失去对这些系统的控制”。

公众对这份报告的反应，主要集中在其中一个似乎呼吁全球暂停人工智能研发的部分。但如果仔细阅读就会发现，暂停其实并不是Anthropic真正提出的方案。报告写道，“如果有可能”放慢这项技术的发展，那么就应该这样做；但只要那些“最不谨慎”的参与者仍在全速推进，Anthropic就暗示自己也别无选择，只能跟进。

Anthropic像一只把死鸟叼到你家门口的猫，逐条陈列其产品可能制造的阴暗未来，耸耸肩，然后继续全力推进，让这些警告成真。

他还多次表示，人工智能工具必然会带来经济破坏，而唯一的应对方式将是由政府提供大规模财政支持，比如全民基本收入或公共财富基金。

不妨把这种策略称为“末日钓鱼”。这是当下人工智能时代最鲜明、也最令人侧目的特征之一。这种做法在道德上越来越难以成立。

人工智能公司进行“末日钓鱼”，其动机实际上只有两种可能。第一种，是它们真的相信自己正在打造的系统，有相当概率引发大规模破坏性事件——最轻也会摧毁经济，最坏甚至可能让人类灭绝。

如果真是这样，那么任何讲得通的伦理体系都会得出同一个结论：唯一可接受的回应，就是立刻停止研发任何可能加速这一未来到来的产品，并动用一切资源游说其他人工智能公司也采取同样做法。从道德角度看，除此之外的任何反应都近乎骇人。

风险投资人、人工智能顾问戴维·萨克斯最近还提出，Anthropic可能在利用制造恐慌的手法进行“监管俘获”，以阻碍新兴竞争者。无论是哪一种原因，都意味着这些公司是在利用数百万人的焦虑，去改善极少数大股东的财务前景。这种犬儒同样令人难以接受。

谈到人工智能，我们已经太习惯这种无助、令人紧张的预言语气，以至于忽视了它本身有多么怪异。设想一下，如果福特汽车公司发布一份报告，说它担心畅销的F-150皮卡很快会开始自燃，但公司对此无能为力，因为汽车技术太不可阻挡、也太重要，无法放慢发展速度。你大概很难想象这种场景，因为任何理性的消费品公司都不会这样行事。

人工智能公司完全可以像其他公司那样行事。前提是，它们必须停止把人工智能当作一种自己只能勉强引导的必然力量。事实并非如此。人工智能只是这些公司按照特定商业计划，选择设计并出售的一组具体工具。

因此，它们需要像谈论任何其他消费品一样谈论自己的产品。这意味着要清楚说明产品面向谁、论证其益处，更关键的是，对产品可能造成的任何伤害承担全部责任。人工智能如今披着高科技光环，并不意味着它可以例外于常识性的安全标准。

如果这些人工智能公司坚持继续假装自己只是一个不可避免的反乌托邦未来的冷静观察者，那么或许该有人迫使它们面对现实。作为消费者，我们可以拒绝参与这场“末日钓鱼”游戏。下次Anthropic再发布危言耸听的报告，或者萨姆·奥尔特曼在想象OpenAI将带来的冲击时声音发颤，我们可以把话题拉回实际问题：“好吧，但我每月花1000美元买这些令牌，到底能得到什么好处？”

如果它们继续不断加码末日叙事，那么也许该把恐惧转化为嘲讽。Anthropic那些一本正经、近乎伪科学的白皮书，已经带上了讽刺意味。当前围绕人工智能形成的时代氛围，鼓励人们对这些科技领袖忧心忡忡地俯首听命，但这种局面也可能很快改变。

《纽约时报》已起诉OpenAI及其合作伙伴微软，指控两家公司在与人工智能系统相关的新闻内容上侵犯版权。OpenAI和微软否认了这些指控。

政府在这里也可以发挥作用。特朗普总统最近签署了一项行政命令，允许人工智能公司在模型发布前，自愿提交模型进行风险评估。这个项目应当改为强制执行。对于那些一边夸耀自家产品的破坏潜力、一边继续不受约束地开发和营销这些产品的公司，政府应当愿意戳破它们的虚张声势，结束人工智能实验室既恐吓公众、又毫无限制推进技术的时代。

值得注意的是，特朗普政府或许正以其一贯反复无常、难以捉摸的方式，跌跌撞撞地朝这个方向走去。今年4月，Anthropic宣布不会公开发布其新的大语言模型Claude Mythos Preview，因为该模型发现并利用软件漏洞的能力，可能给经济和公共安全带来“严重”后果。

该公司决定只向少数机构提供这一模型，以便它们修补安全漏洞。这场行动引发了广泛恐慌和不安，但也提升了Anthropic作为重视安全的人工智能技术领导者的品牌形象。

近日，该公司发布了一个加入“护栏”后可供普遍使用的版本，以及另一个在某些方面解除安全限制、仅向少数群体提供的版本。特朗普政府以国家安全为由出人意料地表示反对，并将这些模型列入出口管制清单，迫使Anthropic暂时关闭访问权限。

一种老练而冷淡的解读是，Anthropic此前围绕Mythos的种种忧虑表态不过是一场公关秀——毕竟并不清楚，为什么该公司近日加上的“护栏”，不能在4月首次宣布模型时就加上。照此来看，政府的做法在某种程度上也是在指出Anthropic的问题所在。

这些前沿实验室喜欢拿外部竞争作理由，为自己尽可能快速推进产品、摆脱任何有意义的监管压力辩护。尽管其中也有人——比如Anthropic首席执行官达里奥·阿莫代伊——呼吁加强监管。但地缘政治风险的管理是政府的职责，不是硅谷的职责。

20世纪90年代，美国生物技术行业担忧基因工程工具的负面潜力时，并没有为了抢在其他国家之前而匆忙推进人类克隆；相反，它们游说国会和相关国际机构，试图限制这些创新最恶劣的可能用途。别人可能会做坏事，并不能赋予你做类似事情的道德权利。

法院也可能成为推动人工智能公司改变产品表述方式的压力来源。十年前，社交媒体巨头也处在与今天人工智能领军企业相似的位置。它们试图把自己应用程序造成的明显负面影响撇清责任，方法是把这些产品说成一种过于基础、因而不应受限的存在：一个代表通信与民主自然演进的数字公共广场。

但在今年3月一项具有里程碑意义的裁决中，陪审团认定Meta和谷歌应对其社交媒体平台造成的伤害承担责任，并判处数百万美元赔偿。如今，还有数百起类似诉讼正在法院系统中推进。这对这些公司构成了重大威胁，因为它们多年来一直靠令人上瘾、扭曲心智的设计牟利，却几乎不受追究。