比尔·盖茨：AI已越过危险阈值，1亿人被杀后诉讼还有意义吗

比尔·盖茨说了一句很重的话。

在《纽约时报》专栏作家埃兹拉·克莱因的播客访谈中，这位微软创始人被问到：AI企业会不会因为担心声誉受损，而主动设置安全护栏？盖茨的回答是——“1亿人被杀害之后，你觉得诉讼还有意义吗？”

这不是一句修辞。盖茨在这次访谈里给出了一个明确判断：AI在生物和网络两个方向上，已经越过了危险阈值。

从“开玩笑”到“对等席位”

盖茨对AI的警觉不是突然出现的。1970年代他从哈佛退学时，曾对微软联合创始人保罗·艾伦说过一句话：如果我们只是在卖基础翻译软件和文字处理软件，而AI那边出现了突破性进展，我们一定会后悔。

那个年代，只有少数研究者还在坚持研究后来通向今天AI的神经网络。真正的进展，要等到进入21世纪之后才出现。

在微软任职期间，盖茨就定期去OpenAI看他们的研究。有一天，OpenAI的CEO萨姆·奥尔特曼等人来到盖茨那里，向他展示了尚未公开发布的GPT解决一个非常复杂的生物学问题的过程。盖茨说，他当时受到了冲击。

第二次冲击发生在2025年底。当他意识到Anthropic开发的Claude在编程能力上已经发展到和自己一样优秀的水平时，盖茨再次被震动了。

克莱因追问：高度战略规划对AI来说是不是还太不成熟？盖茨的回答很具体。他说，在自己创立的盖茨基金会的资金运用会议上，2025年10月时，“问问AI怎么看”还只是一句玩笑。但到了2026年的会议上，已经开始讨论让ChatGPT和Claude参与对话，甚至让AI列席一些评审。

盖茨的原话是：最初像玩笑一样的存在，现在变成了对等的存在。AI不会做最终决定，但在深度复杂的战略讨论中，它已经站在了对等的位置上，并且会做出重要贡献。

“AI本身不会这么做，是恶意的人会”

盖茨对AI能力的评价很高，但他同时指出，AI也是非常危险的存在。他认为，主要AI开发企业不能只追求利润最大化，当AI达到危险阈值时，有时必须做出违背利润最大化的决定，比如停止开发。

他说，从来没有一个产品像AI这样，其能力没有被真正理解。AI已经越过了那个界限——生物恐怖分子可以借助它夺走数亿人的生命。同样已经存在的能力，是发动让所有银行账户陷入混乱、让电网停摆的网络攻击。盖茨强调，这些事会发生，是因为恶意的人可能滥用AI去实施，而不是AI自己会这么做。

克莱因问：具体的转折点是什么？盖茨举了Anthropic开发的AI模型“Mythos”。Mythos在网络安全领域能力很强，能发现人类长期忽略的代码漏洞。如果这种能力被用于网络攻击，而世界上各种系统关联着海量代码，人类社会就会陷入巨大混乱。

另一个方向是生物。盖茨指出，用AI生成新分子的技术在进步，制造对人体有益分子的动能在加速，但被滥用于生物武器开发的风险也在增加。他举了一个例子：如果想要一种比天花更恶性、症状出现前潜伏期更长的病原体，也就是在健康损害显现之前就能感染很多人的东西，过去只有国家才拥有足够的资源和能力去做这件事。现在，这种权力已经落到了少数掌握最新AI工具的团体手中。

克莱因提出一个反驳：如果AI被滥用的事被公众知道，AI开发企业的声誉会受损，资本主义的激励机制本身不就足以让企业设置护栏吗？

盖茨的回答是：药品和飞机都有严格监管，而AI可能是人类创造过的最危险的东西，却没有监管。他说，有人说有过滤机制，但过滤机制根本不存在。能够制造生物武器、能让各种监控失效的开源模型，已经存在了。

盖茨还指出，AI行业之外的政治家和政策制定者，对AI危险性的认识极低。AI和火箭、核武器有一个根本区别：AI不是由政府研究资金开发的，而是民间企业自主开发的，主要用户也不是政府。所以，即使在军事武器上拥有高度技术的美国政府，也并不准确掌握AI到底有多危险。

既然不能再依赖AI开发企业的自我约束，盖茨主张：在网络安全攻击或生物武器攻击造成巨大损害之前，由政府主导提前建立AI安全对策和监控体制，并强制所有AI模型执行。

对于“美国如果监管AI开发，中国就会赢”这套逻辑，盖茨也不认同。他说，他不明白“赢”是什么意思。美国赢不了中国，中国也赢不了美国，双方都已经打开了潘多拉的盒子。AI就在那里，等着被恶意的人利用。在推进这些防护措施时，从国家主义视角转向人类视角是自然的。他不同意“中国不会为人类采取这种行动”的想法，称那是一个未经检验的假设。

AI会夺走工作，而且这次不一样

盖茨在2026年8月发布的博客中警告，照这样下去，AI会夺走人类的工作，很多工作会永久消失。

克莱因在访谈中追问了这个判断。他提到，过去被预测会被AI取代的放射科医生和程序员依然存在，很多工作看起来并没有消失。

盖茨承认，在文章写作时点，数据中心建设等领域产生了新的需求，所以AI创造的就业比它夺走的更多。但他补充说，很多工作之所以还在，是因为它们要求“极高的可靠性”。一旦确认AI能表现出比人类更高的精度，这些工作就会被AI拿走。

他给出了一个具体的时间判断：今后几年内，会计、法律业务、电话销售、电话客服这些领域，会出现24小时运转、支持所有语言、杂学知识丰富、而且不会焦躁的服务。

克莱因提出了一个常见反驳：AI确实会夺走就业，但随之会在其他领域产生就业，就像过去的技术革命一样，不必太担心。

盖茨的回应是：这种说法只是在指出经济的一部分存在需求弹性这一事实。当人类必须做的任务最终消失时，需求弹性也会停止。

他举了美国20世纪的例子。制造业外移和自动化推进，制造业工人失去了工作，但人们转向了服务业，整体就业结构发生变化，美国总就业人数从1960年至今没有减少。问题是，人类在服务业中的优势是“处理复杂任务的认知能力”，而AI不仅能替代这一点，还能24小时不休息、用所有语言处理。当人类的认知能力都失去稀缺性，留给人类的工作就会无限趋近于零。

作为对策，盖茨主张对“解雇员工改用AI的企业”征收“AI使用税”，让它们承担税制和年金负担。他还建议，在育儿、老年人护理、部分医疗处置、教育这些领域，保留“人类专用的工作”。

同一场访谈里，他也在说AI的好话

盖茨对AI表达了强烈担忧，但盖茨基金会同时在和AI研究机构、政府机关合作，发布了一个目标：让30亿以上的人能用母语使用AI，五年内完成。

克莱因问到这个点，盖茨说，AI有很多好的地方。盖茨基金会在做的是把AI送到世界上最贫困的人群手中，在教育、医疗、农业方面提供支持。

他举了一个例子：尼日利亚偏远地区一位说约鲁巴语的女性，附近没有医生，只能依靠AI。约鲁巴语在西非有4500万使用者，但AI模型仍然无法充分识别约鲁巴语，这位女性描述病情时，AI没法很好地应对。

如果AI能支持更多语言，贫穷和缺乏资源的人就能向AI咨询健康和农作问题。盖茨说，AI是善的工具，因为它能帮助那些被最基本的人类问题困住的、最困苦的人。

访谈最后，克莱因请盖茨推荐三本书。盖茨给出的书单是：弗吉尼亚·埃文斯著《The Correspondent（特派员）》、尼古拉斯·恩里科著《Into the Wood Chipper》、塞巴斯蒂安·马拉比著《The Infinity Machine》。