奥特曼被丢燃烧弹，反AI走向暴力

来源：南风窗

作者 | 施晶晶

编辑 | 向现

48小时内，奥特曼的家2次凌晨遇袭。一次被丢燃烧弹，一次是惊闻门外枪响，所幸无人伤亡，犯罪嫌疑人也迅速被捕。

事件本身不大，但提供了一个关注“AI技术掌权者”和“AI反对者”博弈的绝佳窗口。在这里，我们聚焦第一起丢弹事件，因为围绕它的信息披露和利益相关方的回应更全面。

暴力在这里是最不重要的事，因为暴力的不正当，是无需重申的共识。而丢弹事件暴露出来的另一个问题更值得拆解。

2024年1月16日，在美国旧金山拍摄的萨姆·奥尔特曼 / 图源：新华社

事件发生后，在暴力反AI者、倡导非暴力的反AI组织、AI掌权者三方的宣言表态当中，我们可以看见他们对叙事的争夺——即如何基于已经发生的暴力事实，解释AI和它引发的冲突。

这些叙事或说法，构成我们理解AI的多元面向，却也暴露出我们对AI进行约束，哪怕是具体如何监管的讨论，在实质层面上的悬浮与滞后。

“如果你活了下来，我会认为是上天让你去赎罪”

往奥特曼家丢燃烧弹的人叫莫雷诺·加马，只有20岁。

4月10日凌晨，往奥特曼的家丢完燃烧弹，他就离开了现场。但一小时后，他出现在Open AI的总部，抡起一把蓝色椅子，往玻璃大门上砸。

至少从监控上看，玻璃门没有碎，在他拎着一桶煤油靠近大门，准备下一步行动时，安保走了出来。

莫雷诺·加马很快被捕。据法院公开文件，警方缴获了一份反AI文件，莫雷诺·加马处在其中表达了对AI以及“多家AI公司高管”的反对观点，并声称要杀死奥特曼（在原文件中称“受害者-1”）。他还进一步列出了AI公司显要的董事会成员、CEO以及投资者的名单和地址，显然目标不止一人。

莫雷诺·加马被捕

在这份文件里，他还专门以“关于我们即将灭绝的一些额外言论”为题，讨论AI对人类构成的风险。还对奥特曼放言：如果你活了下来，我会认为是上天让你去赎罪。

此外，在一个以莫雷诺·加马为网址名的网页上，有一篇长文，当中写到：即使在人类历史上，每当一个更先进的文明与一个不太先进的文明接触时，后者往往都会遭遇征服和种族灭绝。那么，我们究竟为什么要明知故犯呢？……许多人对普通人的生命价值漠不关心……那么下一个问题就是：我们是否应该袖手旁观，任由事态发展？——之后，他提到了杀戮。

事后，反AI组织Pause AI迅速发声明做切割。

声明提供了一些信息，包括莫雷诺·加马只是在2年间往他们的公共服务器发了34条消息，其中一条信息被标记为含义模糊，审核员发出了警告，重申Pause AI组织的抗议、请愿、政策倡导和公众教育，是合法、非暴力的，暴力恰恰是他们走向组织所极力避免的。

反AI组织Pause AI迅速发出声明

“倡导对强大技术进行安全监管和民主监督，是公共生活中合法且必要的组成部分。试图将和平倡导与个别个人的行为联系起来，从而抹黑这种做法，是对公共讨论以及世界亟需就人工智能展开的严肃对话的损害。”声明中说。

但更瞩目的是，这一有惊无险的突袭，让另一事主奥特曼罕见地不再低调。

奥特曼，“双重受害人”？

事发第二天，奥特曼在博客上发长文回应，并附上一张家人的照片，包括幼儿的正脸。“我分享这张照片，是希望它能阻止下一个朝我家扔燃烧弹的人，不管他们对我有什么样的看法。”

奥特曼在博客上发回应长文

他还提及一篇报道，并认为那是一篇“煽动性文章”。

那是发表在纽约客的一篇长文《奥特曼可能掌控我们的未来——但他值得信任吗？》，作者之一Ronan Farrow得过普利策奖，报道采访了一百多名亲历奥特曼商业运作的人，写了外界对这位OpenAI掌门人持续存在的质疑，奥特曼被评价得最多的是“撒谎”和“权力欲”。

报道中有句总结：即便与奥特曼关系密切的人，也很难分清他的“人类希望”止于何处，个人野心始于何处。他最大的优势始终是，能说服不同群体相信，他想要的与他们需要的是同一件事。

“昨天有人跟我说，他们觉得这篇文章发表在大家对人工智能极度焦虑的时期，会让我处境更加危险。我对此不以为意。”但事后，奥特曼认为这篇文章煽动了仇恨情绪，对此不满：“现在我半夜醒来，怒火中烧，心想我真是低估了语言和叙事的力量。”

他把“暴力”重新归因：把个人的极端攻击，解读为叙事的后果，而他是双重受害者。

接着，他一如既往强调AI技术的正当性，称“为所有人创造繁荣，赋予所有人力量，是我义不容辞的道德责任”“人工智能将成为人类能力和潜能拓展史上最强大的工具，人们对它的需求几乎是无限的”……

OpenAI / 图源：新华社

后续原文很长，大意是：AI真的很好，我做的事是为大家好。我知道“事情并非一帆风顺”，我也同意“人工智能必须民主化，权力不能过于集中，共同决定我们的未来走向”，而且“我们没想掌握全部权力”，为此，我能想到的“唯一解法是让这项技术广泛普及”；最后我们要“学习适应”，破除敌友对立，“努力减少家庭内部的冲突”。

一枚燃烧弹，炸出了三方声明，四方立场，但又不止于此。

叙事的冲突

莫雷诺·加马、Pause AI、奥特曼的声明，在各自逻辑里都是自洽的，但彼此却是冲突的。他们在争夺解释权：谁是受害者，谁是威胁，谁有资格决定AI的未来。

谁是受害者？莫雷诺·加马认为，面对AI，人类是受害者，奥特曼是罪人，他是被迫走极端；而当他发起暴力，试图铲除奥特曼，奥特曼可以认为自己才是受害者，而让反对者失去道义上的正当性。

这里有必要先了解那些反AI的人和组织，反的究竟是什么？

莫雷诺·加马的反对基于“AI灭绝人类”的阴谋论，但除他之外，还有不少抗议AI话题的组织和社会运动。他们并非铁板一块，除了非暴力的立场一致外，彼此的反对和主张有明显区别和具体关注的议题。

反AI组织Pause AI的游行示威活动

事件中的Pause AI是代表之一。它并非反对AI技术本身，也不认为目前乃至未来大多数的AI模型构成生存威胁，他们针对的是：暂停开发前沿模型，即“通用人工智能AGI”，直到建立严格的安全监管和公众监督。

Stop AI态度强硬：永久强制禁止AGI，禁止AI驱动的自主武器、大规模监视、AI训练盗窃知识产权，反对彻底摧毁人类劳动、思想、技能的“人类替代”，以及将人类与机器融合、实现永生的“超人类主义”。

QuitGPT靶子更具体，抵制的就只是chatGPT。起因是2月27日，OpenAI同意与五角大楼交易，提供技术和无限制访问权限，而这很可能被用于制造武器和进行大规模监控，而其竞争对手Anthropic拒绝了同一交易。

文艺界发起“Stealing Isn’t Innovation”运动，抗议AI公司大规模窃取知识产权训练AI模型；CREDO23反对使用任何生成式AI，以维护电影制作的艺术本质和观众信任。

“Stealing Isn’t Innovation”运动

Human First关心的是决策参与，反对少数未经选举的科技精英的规则垄断，认为普通民众理应参与这项技术的发展决策——尽管奥特曼的解释是另一套逻辑：他声称避免垄断的办法，就是普及AI，他在为“去中心化”、鼓励民众参与作另一种努力。

还有一些反对运动针对的是数据中心，反映了许多普通居民的立场。典型标语是：要水喝，不要AI；保护农田，不要数据中心。因为数据中心对水资源消耗巨大，AI抢电致居民电价上涨。

反AI已经不是单一议题，它囊括了就业民生、知识产权、生命伦理和民主监督等诸多非情绪化的现实议题。

但无奈的是，这些非暴力的声音，并没有得到奥特曼乃至AI公司的正面回应，反倒是丢出那一枚燃烧弹，相信“AI灭绝人类”阴谋论的莫雷诺·加马，勾出了奥特曼的长篇大论。

监管的空白，暴力混入

他们的讨论非常热闹：要安全、要民主、要监管、要防止权力集中，无论是奥特曼，还是像 PauseAI 这样的组织，甚至《纽约客》，其实没有原则上的分歧——至少言辞上没有。

但这些共识几乎停留在价值宣言，都回避了“具体怎么做”和宣言与现实的割裂。

奥特曼没有就如何“为所有人创造繁荣，赋予所有人力量”给出“普及”之外的避险方案，他也没有放弃AGI——因为他说：“一旦你看到了通用人工智能（AGI），就无法视而不见。”

Anthropic拒绝为五角大楼的机密系统提供技术，失去了政府订单，但几个小时后，Open AI取代了Anthropic，成为座上宾……奥特曼说权力不能过于集中，但OpenAI的市场地位仍在扩张。

Anthropic

PauseAI等组织，除了举标语抗议、做公众倡导，也没有更进一步的行动，真正参与到决策当中。于是，尽管有舆论压力，但数据中心还在建，AI模型训练依然无视版权问题，水费电价还是贵，不使用AI制作电影，也停留在个人艺术选择。

当所有人都宣称站在“安全监管”和“民主监督”这一边，却没有人提供制度出口，共识就悄悄变成了一种免责工具——让每一方都能声称自己立场正确，同时继续做原来在做的事，无需更进一步。

商业领袖和社会公众扬旗隔空喊话之间，制度性的监管缺席了。

几乎没人会说监管不重要，但监管者本身陷入一种结构性矛盾：政府本该当裁判，但现在他们也是受益者。

法国巴黎大皇宫拍摄的人工智能行动峰会现场 / 图源：新华社

另一个略显尴尬又很现实的问题是：被认为风险极高的“通用人工智能AGI”究竟是什么，它的风险如何界定，要管的是什么？禁止开发它的依据是什么？这些问题会让讨论在“我们还没到那一步”的反驳中被稀释。

于是一切照旧。依然是少数公司在训练模型，大量模型尚未开源，巨头也没有放缓竞赛，监管的主体也对更先进的AI满怀期待，从中制造一个AI狂飙突进的窗口期。

而制度监管持续滞后，填补真空的会是市场厮杀、巨头自律，或者莫雷诺·加马丢出的那枚燃烧弹。