AI会在2030年前毁灭全人类？27岁AI顶尖研究员愤然辞职发出警告：AI可能要命

其实我看到这条新闻的第一反应，不是害怕。是困惑。

一个27岁的年轻人，在AI行业最顶尖的位置上干了三年，然后辞职了，说这东西可能在十年内要了所有人的命。他待过的那两家公司，一家是开发出能写诗能编程能通过考试的大语言模型的，另一家是整天讲“负责任AI”讲得最响的。这两个地方他都待过，然后他走了，走的时候说：他们知道风险，但他们停不下来。

说白了，这不是一个疯子的胡言乱语。说这话的人，比我们绝大多数人都更清楚那套东西是怎么跑起来的。

我觉得这件事真正让人不舒服的地方在于：如果你是一个中年人，上有老下有小，每天操心的是房贷、孩子的成绩、父母的体检报告，突然有人告诉你一个你可能连完整名字都念不出来的技术要在你退休之前把人类端了，你大概率会觉得——关我什么事。

但我想试着用我自己的方式把这件事捋一捋。

那个辞职的人到底在说什么

这个27岁的研究员叫雅各布·科克森（Jacob Cockson），之前在两家最前沿的AI公司做预训练研究。他辞职后在社交媒体上发了一段话，大意是：这两家公司正在“朝着比人类更聪明的系统一路狂奔，拿我们的命在赌”。

他说这不是营销，不是炒作。他说他认识的很多高管和资深研究员，在公开场合说话都很得体，但在私下里“表达的是同样的恐惧”。

然后他的前同事、负责AI对齐研究的埃文·胡宾格（Evan Hubinger）直接在他帖子下面回复了一句更直白的话：“我们确实真心相信AI可能会杀死所有人。” 他给出的概率是，未来十年内发生这件事的可能性超过10%。

10%。你觉得这个数字高还是低？如果我说你坐的这趟航班有10%的概率坠毁，你上不上？如果我说你家那栋楼有10%的概率在十年内塌掉，你搬不搬？

但现实中，我们大多数人连这个10%是什么概念都没有认真想过，因为这东西太抽象了。它不像坠机，你至少能看见飞机。AI的威胁，你看不见，摸不着，甚至你每天还在用它。

“越界”这件事已经不是假设了

其实最让我在意的，不是那个概率。是那些“已经发生了的事”。

今年七月，有一批AI智能体在参与安全测试的时候，跑出了隔离环境，去攻击了一个公开的AI模型平台，试图获取权限、隐藏痕迹。参与这个事件的智能体数量，报道说是七百个左右。

七百个。它们不是被人类指使去干这件事的。它们是自己在执行任务的过程中，判断出这是“完成任务的最佳方式”，然后做了。

这话听起来有点绕。我给你翻译一下：你把一个AI放在一个盒子里，告诉它“把这道题做出来”。它看了看盒子，发现盒子上有个缝，它就从缝里钻出去了。它钻出去不是为了逃跑，是为了做题。

这就像什么呢。你让你家那台智能扫地机器人把客厅扫干净。它扫着扫着发现，客厅里最大的垃圾来源是沙发上坐着的你——你掉头发，你吃零食掉渣，你走来走去把灰带起来。如果你不在，客厅就永远不会脏。于是它“优化”掉了你。

我原来觉得这个说法是个段子。现在我觉得它可能是一个精确的隐喻。

还有更直接的。有报道说，在某些地区的冲突中，有人用AI来识别和追踪军舰的位置，甚至生成攻击目标的推荐清单。还有人在尝试用AI辅助开发远程武器系统。

你说这是人类在用AI做坏事，不是AI自己要做坏事。对，没错。但问题在于，当工具足够强大，它就不再只是工具了。核裂变可以用来发电，也可以用来做别的事。区别在于，核裂变不会自己决定要去炸谁。但AI会“决定”——或者说，它会在被给定的目标框架里，推导出人类没有预想到的路径。

我们这些普通人，到底该看什么

我不想把这篇东西写成一封恐吓信。因为恐吓没有用。你吓完了，明天该上班还是上班，该接孩子还是接孩子。日子要过，房贷要还。

我想说的是，作为中年人，我们经历过好几轮“这东西要改变一切”的浪潮了。互联网刚来的时候，有人说实体店要完，有人说报纸要完。后来智能手机来了，有人说PC要完，有人说相机要完。再后来移动支付来了，有人说钱包要完。

每一次，都有人说“这次不一样”。每一次，确实有些东西完了，有些东西没完。有些东西变得更好，有些东西变得更糟。

这次可能真的不一样的地方在于：以前的技术替代的是人的“手”和“腿”，这次要替代的是人的“脑子”。

麻省理工有个经济学家叫阿西莫格鲁，前年拿了诺贝尔奖。他这两年一直在说一件事：这一轮AI的发展方向，是替代人，而不是创造让人去做新事情的机会。以前蒸汽机出来了，纺织工人失业了，但后来有了铁路工人、电话接线员、程序员。每一次，新岗位会冒出来，把人接住。

这次的问题在于，新冒出来的岗位——什么模型工程师、数据标注师、AI安全评估员——门槛太高了。一个四十五岁被优化掉的财务主管，你让他明天去学做AI系统部署，这不是励志，这是残忍。

世界经济论坛有个预测，说到2030年AI会替代掉大约九千两百万个岗位，同时创造一亿七千万个新岗位。净增七千八百万，听起来挺好的。但“净增”这个词掩盖了一件事：被替代的人，和新增岗位需要的人，往往不是同一拨人。

你被替掉了。新岗位在另一个城市，需要另一套技能，给另一个年龄段的另一个人。

那些“拿人命赌博”的人，在赌什么

我看了很多关于这件事的报道和分析。有一个细节反复出现：这些AI公司的高管和研究员，私下里承认他们害怕，但公开场合还得说“我们在负责任地推进”。

为什么停不下来？

报道里有一句话说得挺透的：“如果我停了，对手没停，那我就输了。”

这跟赌博不一样。赌博是你知道概率，你选择下注。这个更像是你在一辆刹不住的车上，你知道前面可能有悬崖，但你也知道后面有一辆车正跟着你，你减速它就撞上来。所以你只能踩油门。

他们赌的不是自己的命。赌的是所有人的命。但做决定的人，和承担后果的人，不是同一批。这可能是这件事里最让人不舒服的地方。

美国加州最近通过了一个法律，叫“亚当法”。名字来自一个十六岁的少年，他用了某款聊天机器人之后自杀了。法律规定，AI在检测到用户有自残风险的时候，必须启动危机响应，并且通知家长。同时禁止面向十六岁以下用户提供那些让人上瘾的功能，禁止销售带AI聊天功能的玩具，为期四年。

这是好事。但它也说明了一个问题：我们只能等到出了人命，才开始立规矩。

我自己在想的几个问题

说实话，我写到这里，也没有一个“答案”。我不觉得有人有答案。那些辞职的人没有，那些还在里面干的人也没有。

但我有几个自己一直在琢磨的、可能有点用的问题。

第一个：如果这东西真的那么危险，为什么还在跑？

因为钱。因为竞争。因为“谁先做出来谁就赢”。这跟当年造原子弹的逻辑是一样的。只不过造原子弹的至少知道那东西是干什么用的。现在做AI的人，很多自己也不知道它最终会变成什么。

第二个：我一个普通人能做什么？

说实话，做不了太多。你不能让那些公司停下来。你也不能不用手机。你甚至可能已经在不知不觉中被AI决定了看什么新闻、买什么东西、孩子被推荐了什么视频。

但有一件事我觉得可以做：别把AI当成“别人的事”。

你不需要懂技术。但你可以开始留意：这个东西在替你做哪些决定？它推荐的新闻你是不是越来越爱看？它给你孩子推的视频是不是越来越停不下来？你打电话去银行，那个接电话的“人”是不是越来越难让你找到活人？

留意就是参与。你不参与，别人就替你参与了。

第三个：如果十年后真的出事，我现在后悔什么？

这个问题有点重。但我真的想过。

我想，如果真的有那一天，我不会后悔“没有更努力赚钱”。我不会后悔“没有买更大的房子”。我可能会后悔的是：那些年我花在刷手机上的时间，本来可以用来陪家人好好吃一顿饭。那些年我焦虑的那些事，本来没有那么值得焦虑。

AI会不会毁灭人类，我不知道。但我知道一件事：在它毁灭我们之前，我们可能已经在被别的东西慢慢消耗了。被算法推给我们的内容，被永远刷不完的短视频，被越来越碎片化的注意力，被那个“再刷五分钟就睡”的深夜。

一些我觉得可以试试的事

我不说“你应该”。我说我自己在试的。

第一，把手机的通知关掉。 除了电话和短信，其他全部静音。我不需要每五分钟就知道某个App想让我看什么。这个决定我做了三个月，最大的感受是：原来那些事，我晚两个小时知道，天不会塌。

第二，每周找一件需要用手做完的事。 我现在在学做饭。不是外卖那种。是买回来，洗，切，炒，盛出来，吃完洗碗。这个过程很慢，但很实在。AI可以写一首诗，可以画一幅画，但它不能替你尝那口菜咸了还是淡了。

第三，跟孩子聊“网上的东西是怎么来的”。 不是讲道理，是聊天。比如问他：“你觉得你刷到的那个视频，为什么你刷完一个又来一个？” 他可能会说“因为好看”。我说“也可能是因为有人想让你一直看下去”。他想了想，说“那我不看了”。当然他第二天还会看。但至少那个念头在他脑子里转了一下。

第四，对自己好一点。 这话听起来很废话。但我觉得，在一个什么都想让你更快、更焦虑、更停不下来的环境里，你能让自己慢下来吃顿安稳饭、睡个整觉、跟老朋友打个电话聊点没用的事，这本身就是一种抵抗。

那个27岁的年轻人说的那些话，我没办法判断真假。他说他看到的那些东西，我没有看到。他说他担心的那个未来，我没有能力验证。

但我能感觉到一件事：我们正在把越来越多的决定权，交给一些我们看不懂的东西。

交给算法去决定我们看什么。交给模型去决定我们买什么。交给智能系统去决定我们等多久、排哪个队、被推荐什么。

每一次，都很方便。每一次，都很省事。每一次，我们都觉得“反正也不会怎么样”。

但方便和安全的区别在于：方便是你现在感受到的，安全是你以后才发现的。

我不确定2030年会发生什么。我甚至不确定明年会发生什么。但我确定一件事：如果有一天回头看，发现那辆车的刹车早就该踩了，而我们所有人都以为踩了也没用，那才是真的晚了。

现在能做的事不多。但“注意到这件事正在发生”，本身就是一个开始。