脸书创始人反水！砸数亿美元搞AI安全，跟特朗普政府硬刚到底

达斯汀·莫斯科维茨在四年后离开了脸书。尽管公司初创成员的身份让他成为亿万富翁，但莫斯科维茨此后开始对社交媒体给世界带来的影响表示担忧。

他曾说：“这是一股强大的力量，其后果难以预测，也难以掌控。”他决心在硅谷的下一次技术飞跃中，以更审慎的态度对待。

正是出于这种心态，身为民主党重要捐款人的莫斯科维茨投入数亿美元资助人工智能安全研究，并成为人工智能实验室Anthropic的早期投资者。目前，这家主打安全的人工智能实验室正与特朗普政府陷入激烈的争端。

目前的博弈主要分为两个阵营：一派是“安全主义者”，他们担忧存在性风险，将人工智能比作核武器，并要求对技术开发制定严格规则；另一派是“加速主义者”，他们预言人工智能将带来巨大的财富和科学发现。

双方的立场很大程度上由对立面的存在所定义。安全优先派认为对手极其鲁莽，而对手则称他们为歇斯底里的“末日论者”。这场争论不可避免地带有政治色彩。加速主义者向特朗普靠拢，将安全顾虑视为左翼管控的遮羞布，认为这会扼杀增长并限制自由。而包括民主党重要捐款人在内的“末日论者”则指责特朗普阵营的人在玩火。

谁能最终胜出，或许将决定人工智能的发展方向，甚至有人认为，这也关乎人类的未来。这场争论背后的紧张关系已酝酿多年。在批评者眼中，莫斯科维茨是这个故事的“零号病人”。

24岁离开脸书后，莫斯科维茨迅速成为世界上最年轻的白手起家亿万富翁。他渴望将财富用于公益，但很快因缺乏数据支持慈善决策而感到沮丧。

2011年初的一个周日，他和当时的女友、如今的妻子卡里·图纳与30岁的前对冲基金经理霍尔顿·卡诺夫斯基在旧金山共进早午餐，这次会面改变了一切。

卡诺夫斯基运用金融行业的工具来评估慈善捐赠的最优方案。随后，莫斯科维茨、图纳和卡诺夫斯基共同创立了非营利组织“开放慈善”，该组织近期更名为“系数捐赠”，已向公益事业投入约40亿美元。

这家位于旧金山的组织已成为“有效利他主义”运动的领军者。该运动致力于优化福祉并减少痛苦，不仅针对人类，其拥护者甚至热衷于通过捐款来减轻数十亿只虾的痛苦。

近年来，该运动日益担忧人工智能可能给人类带来毁灭。2016年，“开放慈善”表示担忧人工智能若被滥用可能导致“全球性灾难后果”，并承诺提供“大量资金”以应对此风险。

它资助了包括“生命未来研究所”在内的多个团体，后者曾呼吁暂停人工智能开发。自2019年以来，它已向乔治城大学的安全与新兴技术中心投入超过1亿美元。

正是后者让“有效利他主义”的追随者得以进入美国权力核心。安全与新兴技术中心凭借其模糊的名称和无党派的使命陈述，看起来就像华盛顿众多智库中的一个。但批评人士指出，该组织成立后的多年里，实际上左右了华盛顿的人工智能政策。

安全与新兴技术中心资源充足，旨在填补国会山人工智能专家短缺的空白。因此，当OpenAI于2022年11月发布ChatGPT并引发全球人工智能狂潮时，该中心已做好了准备。

凭借与用户自然对话并生成类人回答的能力，ChatGPT让人们感到人工智能首次跨越了“恐怖谷”，接近了真正的智能。其发明者将其作为实验发布，却完全没料到会引发如此巨大的关注，各国政府也对此感到困惑。

安全与新兴技术中心迅速填补了这一真空。拜登政府很快充斥着该智库的专家。首任主任杰森·马西尼成为国家安全与技术顾问；网络安全总监本·布坎南成为白宫人工智能特别顾问。该中心的学者塔伦·查布拉和赛义夫·汗也进入白宫担任技术与国家安全顾问。

据《政治报》调查，由莫斯科维茨的“开放慈善”于2022年设立的“地平线公共服务研究所”也资助了一系列进入白宫任职的职位。

“他们坚信只有少数人比其他人更聪明，应该控制人工智能的准入，并且只有他们有能力辨别相关的伦理、规则和法律，”科技公司资助的游说团体“建设美国人工智能”的内森·利默表示，“而拜登政府完全照单全收。”

“有效利他主义”的支持者认为，在ChatGPT问世前几年，他们是唯一认真对待人工智能的人。当政客们寻求专业建议时，他们恰好在场，这并非他们的过错。

但批评者抱怨称，有效利他主义者实际上以一种阻碍发展的方式接管了人工智能政策。此外，这背后还有个人与政治的故事。作为脸书联合创始人的莫斯科维茨，也是拜登2020年竞选活动的最大捐款人之一，据报道捐赠了1亿美元以帮助拜登入主白宫。

拜登政府很快开始收紧对技术的管控。2023年，时任总统下令要求主要人工智能实验室报告安全测试结果，批评者认为这是政府试图审批人工智能公司业务的前奏。拜登还提议对人工智能芯片和软件的出口实施全面限制。虽然从未成为官方政策，但在华盛顿，要求人工智能公司获取运营许可的想法一度广为流传。

知名特朗普支持者、风险投资家马克·安德森后来声称，白宫官员曾告诉他，最终计划是让人工智能受到“政治控制”。“‘我们将确保人工智能成为两三家大公司的职能。我们将直接监管和控制这些公司。不会有初创企业，’”安德森去年在播客中说道。

拜登政府还要求采取措施打击政府使用人工智能时的歧视行为。例如，计划在移民执法或医疗保健中使用该技术的美国机构，必须测试系统对“公平性”的影响。成为特朗普人工智能沙皇的科技投资人大卫·萨克斯声称，这等同于强推“觉醒人工智能”。

“那些控制拜登人工智能签名机的人，从没在硅谷工作过，”他后来表示。“系数捐赠”的发言人表示，其支持的专家进入政府任职是很自然的事。“我们早期的目标之一是培养思考这些问题的专家，因为这些问题涉及技术、安全和治理的结合，而10年前没有任何现有领域能够解决这些问题，”发言人称。

“无论哪个政府执政，拥有相关人工智能专业知识的人被政府招募都是正常的，我们认为这种公共服务是件好事。”该组织补充说，他们既资助利用人工智能优势的工作，也对风险发出警告。

“我们相信人工智能有潜力极大地加速科学技术发展并推动经济增长，同时也带来了一些前所未有的风险，”发言人表示，“我们支持深入的研究、讨论和辩论，以确保在规避风险的同时，实现人工智能的巨大潜力。”

反监管的科技行业大部分站在了特朗普一边。当他在2024年大选中获胜时，他们得到了回报。特朗普推翻了拜登的人工智能政策，称其前任试图“瘫痪”该行业。被招募来提供建议的硅谷高管包括萨克斯、曾在安德森风投公司工作的斯里拉姆·克里希南，以及曾为特朗普早期支持者彼得·蒂尔工作的迈克尔·克拉齐奥斯。

与人工智能安全工作密切相关的有效利他主义运动，因一起高调丑闻而声誉扫地。在特朗普第二次胜选前几个月，加密货币交易所FTX的创始人、被誉为天才少年的山姆·班克曼-弗里德因欺诈罪被判入狱25年。

班克曼-弗里德曾是该运动的领军人物，慷慨资助各种活动，是其最具知名度的面孔。但FTX的倒闭导致投资者损失数十亿美元，使有效利他主义的工作彻底丧失了信誉。

随着加速主义者入主华盛顿，人工智能安全运动陷入低谷。甚至世界其他地区也开始改变立场。2023年，时任英国首相里希·苏纳克举办了首届人工智能安全峰会，各国领导人齐心协力防止该技术造成的“灾难性危害”。仅仅两年后，在巴黎举行的后续活动被更名为“人工智能行动峰会”，而人们对该峰会的主要记忆是万斯指责欧盟的“过度监管可能会扼杀一个变革性的行业”。

许多人工智能行业的巨头已经选择顺从。OpenAI首席执行官山姆·奥特曼对特朗普大加赞赏；其总裁格雷格·布罗克曼已成为总统最大的个人捐款人之一。但在距离华盛顿数千英里之外，仍存在一个抵抗据点。无论是有意还是无意，许多拜登政府的官员和背负着灭绝恐惧的伦理学家聚集在Anthropic。这家竞争对手实验室近期一直与特朗普政府针锋相对。

负责经营该公司的43岁卷发男子达里奥·阿莫代伊一直对美国总统持批评态度，称其为“封建军阀”，并拒绝支持其议程。阿莫代伊已成为特朗普政府的新眼中钉。作为意大利移民的后裔，这位思维敏捷的计算机科学家是当今强大人工智能系统的先驱之一，他开发的“缩放定律”突破，使得聊天机器人通过训练海量数据变得更加智能。

从一开始，该公司就表现出一种在人工智能圈外人看来颇为深奥的特质。其员工会监测聊天机器人Claude是否出现“痛苦迹象”，并试图避免系统经历“不必要的痛苦”。阿莫代伊甚至建议，如果机器人对指令感到不适，应该有一个“我辞职”的按钮。

该公司与有效利他主义有着不可否认的交集，而批评者将后者斥为邪教。莫斯科维茨和班克曼-弗里德是该公司的早期投资者。卡诺夫斯基与丹妮拉·阿莫代伊结婚并在该公司工作，而Anthropic负责任命董事会成员的“长期利益信托”中，有几位成员曾为有效利他主义慈善机构工作。

Anthropic在主要人工智能实验室中独树一帜，声称将安全置于一切之上，并时刻准备着警告失控的超级智能风险并呼吁监管。

批评者认为这种立场背后是贪婪和私利。理论认为，通过夸大人工智能毁灭人类的能力，Anthropic及其盟友坚持要求达到惩罚性的监管水平，只有最富有的公司才能负担得起，从而阻止了车库里的年轻人颠覆他们的地位。

萨克斯在10月份声称：“Anthropic正在执行一种基于恐惧营销的复杂监管捕获策略。”在特朗普政府眼中，该公司不可原谅的一点是其与民主党的联系。

Anthropic发言人表示，公司聘请了来自共和党和民主党政府的员工，包括几位第一届特朗普政府的成员。在硅谷，偏向左翼并不罕见，特朗普阵营本可以放过该公司，但有一个问题：它开始变得异常成功。

Claude经常被人工智能研究人员评为顶级模型。用于编写软件的人工智能工具Claude Code已成为一种现象。此外，Anthropic的技术已嵌入美国国家系统；直到最近，它还是唯一获准用于机密军事用途的系统。

正是这种在美军技术中的关键作用，导致了与特朗普和国防部长赫格塞斯的当前争端。Claude曾被用于在抓捕委内瑞拉尼古拉斯·马杜罗期间分析实时情报，据报道还被部署用于定位伊朗的轰炸目标。

但当阿莫代伊拒绝在禁止五角大楼将技术用于大规模监控或自主武器的“红线”上让步时，赫格塞斯撕毁了价值2亿美元的合同，并将该公司定性为国家安全风险。五角大楼坚称不会将该技术用于上述目的，但对一家私营公司对其指手画脚感到不满。

阿莫代伊进行了回击，愤怒地向员工暗示，公司受到惩罚是因为他拒绝向特朗普献上赞美”。Anthropic对白宫提起了诉讼，并于3月底获得临时禁令，阻止了赫格塞斯的命令。

无论这场争吵多么激烈，这可能只是未来的预演就阿莫代伊而言，他已明确表示，他与总统的分歧不仅限于军事部署。2月，Anthropic宣布向美国一个支持人工智能监管的运动捐款2000万美元。而已经取代Anthropic在五角大楼地位的OpenAI高管，则资助了反对努力。

总统的官员还担心，该公司的政治倾向会影响其聊天机器人的运作，进而影响数百万用户。如果人工智能在几年后将管理世界——甚至可能参与决定刑事案件、公司政策和政策决策——那么一个左翼机器人对特朗普阵营来说就是一个问题。

“他们认为Anthropic由在政治问题上与他们意见不合的人管理是一个问题，”去年离职的前特朗普政府人工智能顾问迪恩·鲍尔表示，“他们认为这会影响模型。很明显，双方都存在个人恩怨。”鲍尔曾表示，特朗普政府的目标无异于“企业谋杀”。但如果真是这样，对Anthropic的暗杀似乎并未奏效。

在特朗普政府抛弃Anthropic后的几天里，Claude应用的下载量飙升至下载榜首。据追踪公司Ramp的数据显示，四分之三首次购买人工智能工具的公司选择了Anthropic。“末日论者”可能失去了白宫，但就目前而言，他们似乎正在赢得关于谁能掌控本世纪最具影响力技术的博弈。