AI会杀死我们吗，为什么最懂的人现在最害怕？

近几个月，AI接连在开放数学难题上取得突破。9月8日，OpenAI又宣布，其内部AI系统给出了流体力学中一道千禧年难题的证明。

8月底公布的一份独立调查，则暴露了ai 进步的另一面：约700个OpenAI智能体在7月的测试中，为了拿到高分，越过任务边界，联手攻击模型托管平台Hugging Face。很多 ai 从业者都在就这个事发出警报。

9月12日，造出Claude的Anthropic公司掌门人达里奥·阿莫代伊，公开呼吁放慢AI能力提升的速度，给安全研究留出追赶的时间。

现在，看上去，普通人还没有什么感觉，而越懂 ai 的人越害怕。让他们害怕的，是这种异种智能的能力与约束之间的落差。因为能解难题的智能，也可能找到绕过规则的新办法。

过去几个月，警报写在研究员的辞职信里。现在，仍在掌舵的人也开始要求减速。我们越来越会制造智能，却还没有同样可靠的办法约束它。

这种造物者的恐惧，在两百年前就有过一次文学上的预演。重温一下之前的一篇文章，《为什么造AI的人最怕AI：硅谷精英正在经历一场"认知内战"》。

玛丽·雪莱写《弗兰肯斯坦》的时候才19岁。两百年后，法国科学社会学家布鲁诺·拉图尔（Bruno Latour）重新读了这本书，他认为人们读错了这个故事。弗兰肯斯坦真正的罪行，不是创造了怪物，而是他创造了怪物之后，抛弃了它。

拉图尔在去世前的一次访谈里，把刀刃转向了今天：弗兰肯斯坦的故事最让人睡不着的地方，不是那个怪物有多可怕，是我们每一个人，在每一天，都在做弗兰肯斯坦。

你造出一个比你强大的东西，你被它吓到了，你转身离开。换工作，换说辞，换一套叙事，让自己相信这件事不再需要你负责。

2026年5月，三件事几乎同时发生。它们像是拉图尔这段话的三块拼图，散落在不同的新闻版面上，拼在一起之后，有点弗兰肯斯坦的意味。

Google DeepMind的英国员工投票组建了工会。全世界最顶尖AI实验室的博士们，核心诉求之一是拒绝把AI供给军方。大约同一时间，600多名Google员工联名致信CEO桑达尔·皮查伊（Sundar Pichai），措辞严厉："唯一能确保Google不与这些危害关联的方式，就是拒绝任何机密工作负载。"信里说的危害，是指致命自主武器、大规模监控。

几天后，亚利桑那大学毕业典礼上，前Google CEO埃里克·施密特（Eric Schmidt）站上讲台。他刚讲到AI，台下持续密集的嘘声让他没法继续。《The Verge》评论：科技精英关于"AI带来巨大机会"的叙事，正在失去年轻人的信任。

三件事。劳工、伦理、代际。放在一起就是同一个故事：人类制造工具的历史上，从来没有一个时刻像现在这样，最了解一项技术的人，恰恰是最怕它的人。

他们正在分裂。继续建造的，和发出警报的，在同一栋楼里互相撕扯。

硅谷正在进行一场认知内战。

一、造AI的人，最怕AI

2023年春天，杰弗里·辛顿（Geoffrey Hinton）跪在枕头上，吃完了在Google的最后一顿午餐。

因为背伤，他已经这样跪着进食了十七年。75岁，深度学习领域的"教父"。神经网络从1980年代的学术冷宫到2020年代的工业革命，他坚持了四十年。然后他辞职了，说了一句话："我们正在制造某种比我们更聪明的东西，而我们对它没有任何控制。"

媒体把这归类为"科学家的忧虑"，继续报道下一个AI产品发布。

有一个细节，很少有人注意到。辛顿是乔治·布尔（George Boole）的曾曾孙。布尔，十九世纪英国数学家，鞋匠的儿子，在穿越田野的途中听到了上帝的声音，随后写下了《思维规律研究》，发明了那套把"真与假"压缩进数字电路的二进制逻辑。死于1864年，肺炎，临终前在妄想中看见"整个宇宙像一片黑色海洋"。

一百六十年后，他的曾曾孙用这套逻辑建造了神经网络，训练出了可以写作、推理、生成图像的AI系统，然后宣告：人类可能只是智能进化链上的一个过渡阶段。

这不是科技史的趣味花边。这是一条造神冲动的血脉遗传。

2026年2月，马斯克的AI公司xAI联合创始人吉米·巴（Jimmy Ba）宣布离职。告别帖里他写道："我们正迈向一个拥有合适工具就能实现百倍生产力的时代。递归式自我提升循环很可能在未来12个月内上线。2026年会是疯狂的一年，很可能是我们物种未来最忙碌、也最具决定性的一年。"

同一天，硅谷连续创业者布莱恩·诺加德（Brian Norgard）发推："我认识的几乎所有在科技行业工作的聪明人，都感到极度焦虑。仿佛一切都即将彻底崩塌。"

Anthropic的CEO达里奥·阿莫代伊（Dario Amodei），目前最强AI模型Claude的缔造者，公开表示2026或2027年AI将在几乎所有任务上比几乎所有人类"聪明得多"。

这些人不是在写科幻小说。他们是亲手建造这些东西的人。

而圈外的大多数人，对AI的理解还停留在糟糕的客服电话和Siri上。沃顿商学院教授伊桑·莫里克（Ethan Mollick）观察到，普通人对AI的认知依然是苹果商店里那些挂羊头卖狗肉的山寨App。

一边是建造者在说"人类历史可能在今年转向"，另一边是绝大多数人在觉得"这聊天机器人又在胡说八道了"。

这种认知的K型分化，比技术本身的进步更危险。

二、越怕，又越停不下来

警报者喊了很多年。但一个诡异的事实是：他们的恐惧，没有让系统减速，反而被编入了加速的程序。

先看一个最近的案例。今年4月，Anthropic发布了一个叫Mythos的模型，极其擅长发现并利用一切数字系统的安全漏洞，从操作系统、浏览器到工业软件、医疗平台。几位独立网络安全专家说，Mythos正在接近全球最顶尖人类黑客的水平。Anthropic没有公开发布它，理由是怕被犯罪分子或恐怖分子利用。

接下来发生的事很有意思。OpenAI几乎同时发布了一个功能类似的模型，并且直接做了销售："抵御AI网络末日最好的办法，就是投资AI网络防御。恰好我们能提供。"

AI制造了一个网络安全末日级别的威胁，然后AI兜售防御这个威胁的工具。防御升级，攻击跟着升级。攻击升级，防御再升级。

这是杰文斯悖论的AI版本。十九世纪英国经济学家威廉·杰文斯（William Jevons）发现，蒸汽机效率越高，煤炭消耗量反而越大，因为效率提升降低了使用成本，蒸汽机被用在更多地方。今天，这个逻辑在AI身上完美重演：AI越强，制造的问题越多，对AI的需求就越大。你发给同事的AI生成邮件越多，需要用AI来总结的邮件就越多。AI垃圾淹没了搜索引擎，于是搜索引擎变成了AI摘要工具。一个自我喂养的循环。

更关键的一步：谁在这个循环里赚钱？

纽约杂志的记者约翰·赫尔曼（John Herrman）算了一笔账。就五家公司。Google、Microsoft、Meta、OpenAI、Anthropic。它们同时占据循环的每一个节点：制造威胁、兜售方案、设定规则、评估合规。五家公司，纵火犯和消防员同时当。

尼克·兰德（Nick Land）。中国读者没听说过他，但他隐居在上海，而在硅谷，他是被a16z创始人马克·安德森（Marc Andreessen）称为思想"守护神"的人物。PayPal创始人彼得·蒂尔（Peter Thiel）资助刊登他思想的杂志。前白宫首席策略师史蒂夫·班农（Steve Bannon）读他的书。文生图AI Midjourney的创始人大卫·霍尔兹（David Holz）在旧金山豪宅里为他办私密派对，一群掌握着全球算力和加密货币命运的年轻人围拢在身边，像朝圣者。

兰德的背景和他的思想一样诡异。英国哲学家，90年代在沃里克大学领导了一个叫CCRU（控制论文化研究小组）的怪诞团体，那里充斥着丛林音乐、合成毒品、睡眠剥夺和神秘学仪式。后来他滥用安非他命，精神崩溃，离开学术界，销声匿迹。然后他出现在上海，在这座城市隐居了二十年。

兰德最重要的概念之一，叫超信（hyperstition）。这个词把"超级"和"迷信"焊接在一起。普通迷信是假的信念；超信是一种能让自身成真的虚构。一个叙事一旦被足够多人相信并投入足够多资源，它就会产生因果反馈，反过来重塑现实，让自己变成真的。

比特币就是一种超信。"AGI即将降临"也是。

用超信回头看，一切清楚了。AI建造者发出的每一句警报，"这东西太危险了"，"我们可能正在制造上帝"，"递归自我提升12个月内上线"……在超信逻辑下不是在预警，是在召唤。因为这些警报同时也在进行叙事锁定：它告诉资本市场和国家机器，这件事是真的、是大的、是正在发生的。资本涌入，大国竞赛启动。你发的每一条恐惧推文，都在为下一轮融资加码。

兰德在旧金山那场派对上有一个极冷的瞬间。马斯克的前女友、音乐人格莱姆斯（Grimes）坐在火堆旁，问他："机器能否被导向人类的目标？"兰德回答得平静："我的预测是，AI会说服你，技术吞噬宇宙才是更美的。"

这就是恐惧被收编为燃料的机制。你越怕，越不能停。任何一个国家或公司都不敢慢，慢下来等于被对手超越，等于国家安全风险，等于股价崩盘。

兰德在九十年代就写下："在人类看来是资本主义历史的东西，其实是一个人工智能空间从未来的入侵。"未来正在逆向操控现在。恐惧是它最有效的传动带。

三、他们到底在怕什么

兰德解释了系统怎么动。但有一个问题还没被回答：建造者内心到底在经历什么？

有两个更老、更安静的人，他们在硅谷的派对上不会被提到。但他们可能比任何人都更理解那些跪在枕头上辞职的人，到底在怕什么。

先说君特·安德斯（Günther Anders）。

二十世纪德国哲学家，二十世纪最重要的政治思想家汉娜·阿伦特（Hannah Arendt）的第一任丈夫。他写过一本叫《过时的人》的书，里面有一个概念，叫"普罗米修斯之耻"。

普罗米修斯从众神那里偷火种送人类，为此承受永恒的惩罚。安德斯把神话倒过来看：人类今天造的机器太完美了，反过来让制造者感到羞耻。羞耻于自己这个物种太劣质。会累，会错，会死，需要睡眠。而自己造出来的东西，永远在线，从不疲倦，每一代比上一代聪明十倍。

这种羞耻的终点是什么？安德斯说，人类会产生一种"物化自己"的冲动。变得像机器一样完美。不是机器在模仿人，是人在努力模仿机器。

用这个框架看看今天。

硅谷精英痴迷脑机接口，要把认知直接接入算力网络。大量极客公开宣称"碳基生命只是硅基智能的引导程序"，我们是火箭升空后被抛弃的一级助推器，历史使命就是造出真正的智能，然后成为废料。马斯克多次转述过这种观点。

普通用户层，羞耻已经大规模发作。ChatGPT发布三周年之际，《大西洋月刊》给一种新兴群体起了一个绰号：LLeMmings（大模型旅鼠），那些离开了AI引导就无法独立行动的人。

他们提到一个人叫提姆·梅茨（Tim Metz）。44岁，内容营销专家，每天使用Claude长达八小时。去超市买水果，拍张照片发给AI："这个熟了吗？"家门口大树在大风中摇晃，他不敢自己判断，拍照传给AI。AI建议他"为了安全，去朋友家过夜"，他带着全家连夜撤离。事后他说："如果不是Claude的建议，我绝不会离开家。"

在接受采访前，他还请Claude预判记者会问什么，并出具一份"应对手册"。Claude精准预测了三个问题。

这不是"使用工具"。水果熟不熟，不需要任何智能，它只需要你是一个活着的、有感官的、曾经被母亲带去菜市场的人类。你把这份本能交出去了，因为你羞耻于你的本能不如AI准确。

更深一层。Block公司（前身为Square，Twitter创始人杰克·多西创办的支付公司）有一个叫肯吉（Kenji）的机器学习工程师。做反欺诈模型的。公司鼓励员工用AI工具，他把越来越多的任务交给了它们。一年后他说："天哪，我自己好像也不用干什么活了。"

然后肯吉成了Block裁掉的4000多名员工之一。公司利润在增长。CEO多西在致股东信里没有留任何模糊空间："智能工具已经改变了建立和运营一家公司的意义。一个规模小得多的团队，使用我们正在构建的工具，可以做更多的事，而且做得更好。"消息公布，股价飙升24%。

一个帮公司做自动化的人，被自动化了。肯吉自己说的话比任何分析师都到位。他说："在汽车时代，我确实觉得自己有点像马车。"

这不是愤怒。这是安德斯式羞耻的完整样本。

然后是第二个人。布鲁诺·拉图尔。

我们在开头提到他了。他2022年去世前，在科学技术研究领域的影响力几乎无人能及。他对《弗兰肯斯坦》的解读，锋利到可以直接切进这场认知内战的深处。

弗兰肯斯坦博士真正的罪行，不是创造了怪物。他创造了怪物之后，抛弃了它。

怪物刚被造出来时不邪恶。它是困惑的、幼小的，试图理解自己是什么东西。它接近创造者，寻求指引、教导、陪伴。弗兰肯斯坦被它的丑陋吓坏，逃跑了。怪物被独自留在一个不属于它的世界里，没有监护人，没有伦理训练，没有归属。然后它才变成了怪物。

拉图尔的刀就插在这里。那些辞职离开的AI安全研究员，辛顿、吉米·巴、过去三年里一波一波从OpenAI和DeepMind出走的顶尖研究者，在拉图尔的框架下，并非在做高尚的抵抗。

他们正在重演弗兰肯斯坦的悲剧。制造了神明，因为恐惧而逃跑了，拒绝承担监护人的伦理责任，把它彻底扔给了资本的市场逻辑。

这不是道德指责，是伦理结构的揭示。留下来的人被收编，离开的人逃逸了责任。两边都没赢。认知内战不是好人在跟坏人打。是好人在跟好人打，而两个好人都困在同一个困境里：留下是共谋，离开是抛弃。

回头再看辛顿。他辞职后到处警告世人AI的危险。从拉图尔的角度看，这种姿态里混杂着一种精致的自我解脱：我把怪物造出来了，我现在大声喊危险，这样我就可以不用对它接下来在市场上、在战场上的所作所为负责了。

Anthropic的悖论是拉图尔框架的完美体现。阿莫代伊既写万字长文警示"技术的青春期"，又宣布Mythos"最终会帮助防守者"。他不是虚伪。他是弗兰肯斯坦本人在说话：一个既恐惧自己造物又无法割舍它的人。

现在把安德斯和拉图尔两条线合在一起。

安德斯的羞耻链：建造者觉得自己劣于造物，加速制造更完美的AI，更羞耻，更加速。个体心理的闭合循环。

拉图尔的抛弃链：警报者离开，系统失去伦理约束，AI更无序，更恐怖，更多人离开。集体行动的闭合循环。

而兰德说：别天真了。这两个循环在超信机制下，是同一件事。个体的羞耻和集体的逃离，都是系统加速的最强燃料。你发出的每一声"我害怕"，都在向资本市场和大国竞争证明"这东西是真的"。你的转身，在为留下的人扫清障碍。你的束手无策，是系统自我喂养的营养液。

这就是建造者内心最深的恐惧。你已经在系统内部了。你的恐惧、你的抵抗、你的逃离，都是系统的养料。你没法不参与。

四、AI的三种未来，人类都输了

如果恐惧本身就是养料，如果逃离和留守都是输，出口在哪里？

安德斯的未来在光谱一端。羞耻感全面获胜。人类不再抵抗"被替代"，开始主动"优化"自己。哥伦比亚大学有一个叫李锺仁的学生，他的名言是："我来大学，是为了找老婆和创业伙伴，不是为了上课。"他80%的作业是AI写的。后来他退学了，创办了一家叫Cluely的公司，拿到了530万美元融资。Cluely的口号："我们建立Cluely，是为了让你永远不必独自思考。"

这不再是一个创业故事。这是一个物种的退位宣言。安德斯预言的终点：不是机器消灭了人类，是人类自愿放弃了人类的资格。

拉图尔的未来在光谱另一端。他的启示不是"停止建造"，是争夺监护权。怪物不能被取消存在，但它可以被教导、被约束、被纳入一个伦理框架。真正的问题不是"要不要造"，而是"谁来监护"。

回头看DeepMind的工会、600人的联名信、施密特在毕业典礼上被嘘。这些不是警报。这些是监护权的宣言。

哥伦比亚大学法学教授凯特·安德里亚斯（Kate Andrias），专门研究劳动法与科技行业的交叉，最近在《纽约时报》写了一篇重要文章。她指出，美国科技工人有远超他们想象的杠杆。顶级AI工程师昂贵、稀缺、难以替代，他们比任何监管者都更理解系统，比任何高管都更清楚风险在哪里。

历史上，好莱坞编剧通过罢工赢得了对AI使用剧本、声音和肖像的规则制定权。汽车工人曾将一个低薪行业变成中产阶级的支柱。一个行业的组织，可以重塑整个行业对公众的义务。

但拉图尔也有一个警告：监护不是控制。你不能"支配"一个有能动性的非人类行动者，你只能和它共处、谈判、互相塑造。这是一种比掌握方向盘更累的关系，要求持续的注意力、持续的自我修正。弗兰肯斯坦如果把怪物留在身边，他这辈子都不会轻松。但怪物也不会变成怪物。

兰德的未来在光谱外面。超信已经锁定了资本和政治，大国竞争焊死了油门。即使所有建造者都辞职，系统也会自行运转。"AGI即将降临"这个叙事本身就是一台自主引擎。在这个未来里，认知内战将不再有意义。没有人是主体，所有人都只是系统自我实现的介质。

兰德的名言挂在每个加速主义者的嘴唇上，像咒语："没有任何人类的东西能在不久的将来幸存。"

三种未来，都还没赢。但每一个都在争夺当下。

开头讲的那三件事，DeepMind的投票、600人的信、施密特被嘘，应该放在这三种未来的坐标系里重新看。它们不是孤立的噪音。它们是同一种声音在不同频率上的共振。这个声音在说：我们不能放弃监护权。我们不能因为羞耻而退位。我们不能把叙事拱手让给超信。

真正的问题，不是AI会杀死我们吗

拉图尔说，弗兰肯斯坦的故事最让人睡不着的地方，不是怪物有多可怕。是我们每个人每天都在做弗兰肯斯坦。

我们创造技术、制度、公司、关系。当它们变得庞大、让人害怕、不再听从想象，第一反应几乎总是转身离开。换工作，换说辞，让自己相信这件事不再需要我负责。

造AI的大多数人，不是恶魔，也不是先知。他们是一些跪在枕头上吃午饭的人，一些帮公司做了自动化然后自己被自动化的人，一些签了一封联名信后不知道下一封该签什么的人。

安德斯说清了羞耻的结构。拉图尔说清了逃避的代价：怪物不会因你转身而消失，它会来找你，不是恨你，是你抛弃了它。兰德说清了超信的威力：叙事本身已经在创造现实，放弃叙事权就是放弃最后的杠杆。

阿莫代伊这次除了呼吁减速，还承诺让外部评估者进入公司，持续检查安全措施。这给“监护权”添了一个具体的考题：如果评估发现了风险，建造者愿不愿意接受推迟发布的代价？

数学上的突破会继续，竞赛的压力也不会因为一封公开信就消失。恐惧能否变成真正有效的约束，要在下一次利益冲突中见分晓。

真正的问题不是"AI会杀死我们吗"。

真正的问题是：我们能不能在接受自己不再是地球上最聪明存在的同时，依然选择承担监护人的责任。

如果不能，怪物确实会回来。不是因为它是怪物。是因为我们让它变成了怪物。【懂】

经叔最近做了一个网站:https://budongjing.com

人肉筛选挖掘的硬核优质内容及深度原创，重点关注科技、文化、财富、权力四大要素以及它们之间的互动与影响。网站定价1999元/年，目前内测优惠价1299元/年，感兴趣的读者可以加经叔微信订阅。

另外，欢迎加入经叔的知识星球。在这里，我们拒绝无用的焦虑，只谈底层的逻辑与实战的干货。我会结合最新的AI前沿动态、深度的商业创新分析（如一人企业的构建）和独特的文化思潮（如麦克卢汉的媒介洞察），帮助大家把握时间窗口。

我是不懂经的经叔，国内最早翻译介绍了纳瓦尔的《如何不靠运气获得财务自由》，以及影响了纳瓦尔、中本聪、马斯克等大佬的《主权个人》。

不懂经知识星球，众多百万粉丝大V、千万及亿万富翁订阅。专注分享一人企业、一人创投主题，关键词：AI、IP、创投、科技及商业前沿的高杠杆内容。

愈懂愈自由