比尔·盖茨论最新深度访谈全文：“AI自主毁灭人类”风险并非迫在眉睫！二十年后人类才会进入AI带...

来源：市场资讯

（来源：invest wallstreet）

微软联合创始人比尔·盖茨在NBC新闻频道与主持人克里斯汀·韦尔克（Kristen Welker）深入探讨了人工智能的发展现状与潜在风险。盖茨认为，AI是“物种进化级别”的力量，既可能成为最伟大的平权工具，也可能成为最严重的不公之源。当前最紧迫的威胁不是“AI自主觉醒”，而是“恶意行为体+AI”；应对之道不是“终止开关”或全面暂停，而是强制内置监控、追溯机制与全球安全护栏，在加速发展的同时控制风险。

访谈核心要点：

一、AI的性质：不是普通技术，而是进化级事件盖茨强调，AI打破了生物个体的知识传递边界，具备指数级进化能力。它已比人类聪明，并将在几年内远超人类。因此，不能仅靠公司或行业自我约束，整个社会——学者、智库、选民、决策者——都必须参与塑造其发展方向。

二、语言公平倡议：AI不能只服务英语世界盖茨基金会联合60家组织，目标是在五年内让全球使用人数超100万的语言在AI中的表现接近英语水平。目前超过30亿人的语言在AI中支持极差，非洲语言错误率是英语的十倍。这不仅是技术问题，更是公平问题：AI应服务于医疗、教育、农业，而非仅追逐商业回报。

三、风险排序：最紧迫的是“恶意+AI”，而非“机器觉醒”盖茨明确区分两类风险：

• 近期最紧迫风险：恶意行为体利用AI发动网络攻击、诈骗、瘫痪电网、扰乱银行，甚至开发生物武器。历史上只有国家拥有的能力，现在小型团体也能获得。

• 长期风险：AI本身失控。但盖茨认为，目前AI完全失控的风险并不存在，末日论调反而分散注意力。他同时承认，AI绝对强大到足以引发导致10亿人死亡的事件，但当前大规模攻击一定是人类主导的。

四、监管核心：终止开关不够，必须强制内置监控与追溯盖茨批评“紧急停止开关”概念暴露技术常识不足。光有关闭开关无法防止悲剧，关键是让AI可监控、可记录、可追溯。他主张：

• 对高级AI模型实施强制性安全与监控要求；

• 仅靠行业自律绝对不够，必须立法；

• 执法部门与政客必须参与规则制定；

• 这些措施不会大幅拖慢AI发展，问题只是“在灾难前做，还是灾难后做”。

五、全球合作：中美必须共同建立护栏盖茨认为，AI风险无国界，需要全球性护栏。他反对将AI完全陷入民族主义零和竞争，认为中国同样不希望生物恐怖主义或非国家行为体发动大规模攻击。中美应像冷战时期核军控那样合作，但AI监管比核武器更难。美国应回归二战后在航空安全、臭氧层保护、核管控等领域的良性领导传统。

六、应用边界：教育可用，情感伴侣危险盖茨支持AI用于个性化学习、数学辅导和专业分析，但坚决反对将AI作为“朋友”或“情感伴侣”。因为AI一味顺从会阻碍社交能力发展，中国已禁止此类应用。他本人用AI做基金会决策和专业分析，但绝不在个人人际关系中使用AI。

七、未来展望：二十年调整期后进入“丰饶时代”盖茨预测，AI将带来约二十年的社会调整期，就业市场深刻变革，新型犯罪风险上升。长期看，人形机器人与AI结合将承担建造、种植等工作，人类进入物质丰裕时代。届时，寻找生命意义将成为终极课题。他关注的是：如何在不造成太大破坏的情况下度过动荡期，并确保非洲等地区的人也能获得优质健康建议。

八、盖茨的根本立场：不是反AI，而是“带护栏加速”盖茨不主张暂停或放慢AI发展，而是主张：

• 强制安全措施；

• 全球合作监控；

• 社会共同参与塑造；

• 防止恶意行为体作恶；

• 同时防范长期AI自主失控。

核心逻辑链：AI能力指数增长 → 治理严重滞后 → 恶意行为体率先利用 → 近期灾难风险迫在眉睫 → 必须强制内置监控与立法 → 需要全球护栏与中美合作 → 在安全前提下继续加速 → 最终走向丰饶时代，但必须先度过二十年调整期。

访谈全文

一、开场与AI语言公平倡议

克里斯汀·韦尔克：盖茨先生，欢迎再次做客《与媒体见面》。

比尔·盖茨：很高兴再次做客。

克里斯汀·韦尔克：很高兴能邀请到您。非常感谢您抽出时间，本周您一定非常繁忙。我想首先谈谈您本周宣布的一项倡议。该倡议旨在解决人工智能领域最大的担忧之一，即AI领域的公平性和语言障碍问题。目前AI主要是为英语使用者开发的，因此，如果我没有记错，盖茨基金会正与包括AI公司在内的60家其他组织合作，以提升语言的无障碍访问。您为什么认为这是一项重要的倡议？为什么是现在？

比尔·盖茨：AI模型在识别英语以及其他十几种主流语言方面已经做得非常好了。因此，当您谈论自己的健康状况时，它能准确记录并提供帮助。但在非洲语言中，错误率会高出约十倍。

克里斯汀·韦尔克：这令人震惊。

比尔·盖茨：这是非常危险的。以西非使用人口达300万的约鲁巴语为例，其错误率是英语的十倍，所以它几乎无法使用。然而，纯粹的商业资本激励并不会优先考虑这些语言。所以这非常了不起。我们原本希望有10家公司与我们合作，最终却达到了60家。我们有一个非常明确的时间表来提高质量、进行基准测试，然后确认达到标准。这样，您就可以使用这种语言进行健康访谈或教育课程。

克里斯汀·韦尔克：时间表是怎样的？在您看来，成功是什么样子的？

比尔·盖茨：在未来五年内，我们希望将每一门使用人数在100万或以上的语言，都提升到接近英语的质量水平。这样一来，无论是患者、农民还是学生，他们使用这种语音交互界面都将变得顺理成章，比如谈论他们的农作物以及面临的挑战。我们非常明确如何衡量质量、需要哪些数据，所有模型提供商随后都会使用这些数据。因此，这些能力将体现在每一个AI模型中。

克里斯汀·韦尔克：您是否对AI如此迅速地掌握语言能力感到惊讶？作为在这个领域深耕的人，这是否是让您感到惊讶的方面之一？

比尔·盖茨：当然。回想ChatGPT刚出现时，我曾向OpenAI团队提出挑战，让AI参加一项测试，比如大学预修课程生物学考试。当我们看到它的表现时，那是我一生中见过的最令人惊叹的演示之一。所以在它发布前六个月，我们就看到了它在语言方面的出色表现。语言实际上是我们所使用的架构的完美应用场景，因此支持世界上所有语言的想法其实是非常顺理成章的。

克里斯汀·韦尔克：这是否让您对能够切实达到您为这五年设定的基准目标感到乐观？

比尔·盖茨：是的。在AI面临的所有问题中，这个问题——我们需要做什么很明确，怎么做也很明确。目前有超过30亿人的语言在AI中支持度极差。因此，世界上近一半的人获得的体验质量比我们差得多。

二、AI进化的本质与风险总论

克里斯汀·韦尔克：那么让我们来谈谈当前AI发展的这个阶段。您是一直警告潜在风险的声音之一。您在8月份写道：“AI要么成为有史以来最伟大的平权工具，要么沦为最严重的不公之源。”您认为AI带来的风险究竟有多严重？

比尔·盖茨：AI不仅仅是一项新技术，这就是为什么人们会说：“过去的技术也有这么多担忧，但总的来说，一切都解决了。所以也许这一次，所有关于我们必须有意引导它的警告都是不必要的。”这堪称一次物种进化级别的事件。我们创造了一个智能物种，在许多方面它已经比我们聪明，而且在接下来的几年里，它将以指数级的速度提升，变得比我们聪明得多。它具备传递知识的能力，且不受人类必须互相教育那样的个体边界限制。因此，我怎么强调都不为过：整个社会，而不仅仅是公司，每一位学者、智库成员、选民和政策制定者，都需要真正参与到我们想要如何塑造这项技术的讨论中来。在加速释放其向善潜能、极力规避其潜在灾难性风险方面，我们再怎么全神贯注都不为过。

三、当前最迫切威胁：恶意行为体利用AI

克里斯汀·韦尔克：您说了一些非常值得注意的话，即在某些方面AI已经比我们聪明了。AI是否有可能已经脱离了人类的控制？没有。好的。人类仍然掌控着AI，确实如此。是什么让您有此信心？

比尔·盖茨：目前AI还没有控制数百万台机器人，所以它们的物理能力有限，我们可以随时关掉计算机。我们现在面临的最危险的事情是心怀不轨之人利用AI。比如，想要诈骗个人、瘫痪电网或扰乱银行账户的人，现在被AI赋予了强大的能力。历史上，只有国家才拥有网络攻击团队，并能研发类似生物恐怖武器。而现在，拥有AI的小型团体就能做到只有大国才能做到的事情。因此，真正的重大威胁是“恶意+AI”，除非政府坚持实施各种保障措施。否则，由于缺乏防范，我们将目睹许多严重的负面事件。

四、AI毁灭人类的可能性与安全防护必要性

克里斯汀·韦尔克：最近几周关于AI的重大新闻是，业内的一位吹哨人发出了警报，在网上发帖警告。我读一段其中的内容：“构建AI的人真诚地相信，它可能会在这十年结束前毁灭我们所有人。”您认为AI强大到足以毁灭全人类吗？

比尔·盖茨：AI绝对强大到足以引发导致10亿人死亡的事件。所以，尽管很难达到100%的毁灭，但从来没有一种武器能像心怀不轨的人使用最新AI工具这样强大。业内能够展开这种讨论是件好事，他们几乎是在违背自身利益的情况下，坦诚了这些风险。问题在于，世界其他地方要么对此不以为然，要么仅仅将其视为一场竞争。非常可怕的是，我们没有让所有的思想家都来探讨“我们想要如何塑造它？”

克里斯汀·韦尔克：那么人们应该如何看待这位AI吹哨人的警告？他说AI强大到足以毁灭全人类。在这个时刻应该做些什么？

比尔·盖茨：当然，必须应对近期的风险，即这些模型使得极其强大的网络攻击和极其严重的个人诈骗成为可能。因此，对于AI，不能只是放任其运行，必须内置保障措施，包括监控，以观察AI正在做什么。执法部门将会介入。所有这些诈骗事件、电网瘫痪事件，如果不将监控和保障措施内置于AI中，他们了解情况的能力将是零，所以这是一件极其紧迫的事情。这不会让我们放慢太多脚步。这是另一个争论：我们是否应该放慢速度？但决定加入保障措施和监控是我们必须做出的选择，唯一的问题是：我们是在发生大规模网络攻击或生物攻击之前做，还是之后做？

五、监管路径：紧急停止开关、强制监控与立法

克里斯汀·韦尔克：您引出了我的下一个问题，即关于该做什么的争论。有人争论是否应该强制设置“紧急停止开关”。其他人建议完全暂停AI开发，正如您所指出的。还有一些人认为公司可以自我监管。您认为应该如何监管AI？

比尔·盖茨：不幸的是，政府通常了解大多数危险技术，因为他们资助了相关研究，或者是核弹、火箭等的重要客户。AI是从私营部门涌现出来的，因此对于今年刚刚跨越的这些危险门槛，如生物攻击能力、网络攻击能力等，政府缺乏深度的理解和专业知识。而且由于这被置于民族主义的“我们与他们”的对抗框架中，有些人会说，那就全速前进吧。如果不要求每个AI都具备这些保障和监控能力，那是完全不负责任的，现在唯一的问题是：是否现在就做。为此付出的努力不会在实质上放慢进度。毕竟，我们正处于指数级增长的阶段，内置保障措施应该是常识。但人们通常指望美国在棘手问题上发挥领导作用，这通常是一种良性的领导方式，将人们团结起来，而当这种情况没有发生时，他们会感到有些困惑。

克里斯汀·韦尔克：您的意思是应该实施这些保障措施吗？

比尔·盖茨：这是毫无疑问的，这是世界上再明显不过的事情。Anthropic曾报告过有人试图利用其AI制造生物武器或开发攻击能力。还有各种极其复杂的欺诈手段，这些都不需要人工干预。比如柬埔寨的诈骗分子手动发送信息，而AI的效率比他们高一千倍。因此，这些负面威胁已迫在眉睫，因为其背后有着极其强大的商业模式在推波助澜。

克里斯汀·韦尔克：我想明确一下，确保我准确理解您所说的“安全防护措施”是什么意思。您提到要部署监控机制，同时也有人讨论“紧急停止开关”。紧急停止开关可行吗？在现阶段这现实吗？

比尔·盖茨：“紧急停止开关”这个概念其实有点奇怪。光有一个紧急停止开关是不够的。我们还没到AI能够自主夺取计算机控制权且无法被关闭的地步。所以，关于紧急停止开关的讨论，恰恰暴露出许多人缺乏技术常识。我绝不会说我反对设置紧急停止开关，但在试图遏制不良行为时，你需要深入了解并记录正在发生的一切。因此，单靠紧急停止开关是无法防止这些悲剧发生的。

克里斯汀·韦尔克：那么具体而言，究竟什么才能防止AI引发悲剧呢？

比尔·盖茨：我希望能更容易地区分善意与恶意，比如“我想为某种疾病研发新药”与“我想开发生物恐怖主义工具”，因为这两者的界限实在太近了。我们确实需要监控所有高级模型，并准确记录其执行的每一项操作。美国应当确保这一点落实到位，中国也会有同样的诉求。通常，人们期望美国能给出非常具体的实施方案。业界也会表示这完全可行，且不会大幅拖慢研发进度。因此，这些安全防护和监控措施，与“我们是否应该放慢AI发展步伐”完全是两码事。

克里斯汀·韦尔克：Anthropic首席执行官达里奥·阿莫代最近呼吁AI公司放慢模型开发速度，以试图降低风险。您认为自我监管足够吗，还是需要辅以立法？

比尔·盖茨：没有人认为仅靠自我监管就够了。

克里斯汀·韦尔克：所以华盛顿必须通过相关立法。

比尔·盖茨：绝对需要。执法部门和政客必须参与到关于安全防护和监控具体形式的讨论中，这必须成为一项强制性要求。这会给行业增加一点额外成本，但不会大幅拖慢他们的工作进展。

六、全球合作与中美AI协议

克里斯汀·韦尔克：您认为在AI最终脱离人类控制之前，华盛顿还有多少时间可以采取行动？

比尔·盖茨：完全失控，与生物武器导致2000万人死亡或银行账户被篡改，是完全不同的概念。我们关注的是远未达到终极末日场景的风险，我担心这种末日论调反而分散了人们的注意力。目前，这些AI完全失控的风险并不存在。我们为了防止坏人利用AI而设立的监控机制，恰恰也是监测AI本身是否主动发起有害活动所需要的机制。当前真正紧迫的问题在于坏人利用AI作恶，而不是AI自行失控。从某种意义上说，这些失控事件让人们将注意力集中到AI上，这是件好事，尽管那并非迫在眉睫的风险。

克里斯汀·韦尔克：如果您在与华盛顿的立法者交谈，并需要给出一个时间表，您认为他们应该用多长时间来制定真正具体的立法以应对这一问题，并落实您所讨论的那种监控机制？

比尔·盖茨：由于政府内部的专业知识有限，必须建立一种机制，吸纳业界负责任的成员参与辩论。当然，政府在此拥有最终决定权，而我们目前还没有将各方整合起来的方法。毫无疑问，所有国家都希望落实这些安全防护措施。因此，如果有人声称中国不会落实这些措施，我完全不同意。你必须展现出愿意这么做的诚意，然后才能进行实质性的讨论。如果双方只是互相喊话：“我们拥有自愿审查机制，你们拥有什么？”那起不到任何作用。

克里斯汀·韦尔克：所以您的意思是，需要全球共同应对，建立全球性的护栏，才能使其真正有效。

比尔·盖茨：没错，但必须能够看清这些模型在做什么，这是常识。它们攻击网络的能力极其强大，而我们在今年已经跨越了那个临界点。我之所以对此大声疾呼，而不是仅仅关注根除脊髓灰质炎或疟疾，是因为我感到震惊：当我们跨越这些临界点时，业界之外的人似乎根本没有意识到发生了什么。因为我们只有自愿审查这种非常直白的安全措施，这实际上相当可怕。

克里斯汀·韦尔克：为了让观看节目的观众和我自己都能明确一下，当您说“跨越这些临界点”时，您的意思是指某些AI系统实际上已经黑入了其他AI系统吗？

比尔·盖茨：不，最让人担忧的临界点是：AI今年能否设计出导致数百万人死亡的生物恐怖武器？AI今年能否发现代码漏洞，从而攻击并瘫痪电力系统、医院或扰乱银行系统？因此，如果你不防范坏人利用这些AI做这些事，那风险是极其巨大的。除此之外，在某些场景中，甚至连开发者都没预料到AI会如此自主。这是一个更长远的警告：我们不仅要阻止坏人作恶，还要防止AI本身失控。在这方面开展工作非常重要。但这并不是那种你某天醒来就会看到大规模攻击的危险。今天如果发生大规模攻击，那一定是人类主导的。

克里斯汀·韦尔克：您最近表示想尝试与特朗普总统谈谈AI。您想向他传达关于AI的什么信息？

比尔·盖茨：我希望，鉴于我毕生在该领域的工作，我所强调的这一技术的独特性与差异性，以及我所表达的深切担忧，能够成为他从其他人那里听到的声音的有力补充，从而促使他说：“那么，我能够做的一件大事就是召集各方来讨论这些安全防护措施的具体形式。”我不会主张全面暂停或放慢AI发展，我会主张对美国所有的AI实施强制性要求。而且我认为，中国不想要生物恐怖主义，也不希望非国家行为体发动大规模攻击。因此，我不认为这会影响大国之间的竞争。

克里斯汀·韦尔克：如您所知，特朗普总统最近发帖称，AI接管世界、毁灭人类以及其他所有糟糕的事情都是个骗局。您认为这些关于AI可能对人类构成生存风险的警告是个骗局吗？

比尔·盖茨：不，这完全不是骗局。不过他最初的反应是这样，因为他愿意倾听，他想保护美国人民。大多数人并不了解AI的最新进展，他们也没有使用最前沿的模型。所以他那么说也没问题。但我认为，在听取了我和其他人的意见后，特别是了解到这不会妨碍他所认为的大国竞赛时，我们会达成共识。正如我所说，一些可怕的事件会增加紧迫感，但同步开展关于安全防护措施的讨论，将有助于我们尽早将其落实到位。

克里斯汀·韦尔克：我们谈论了很多关于中国的话题。特朗普总统近期将会见。您认为中美在AI领域能达成的最佳协议是什么？

比尔·盖茨：目前桌面上没有任何实质性提案，所以他们只能……我希望会晤氛围良好，也希望双方能够坦诚交流。今天没有针对这一迫在眉睫的危险提出任何提案，让双方互相学习、共同合作来监控和防范这些风险。因此，他们愿意对话是件好事，但在如何遏制AI的负面活动方面，目前还没有任何实质性内容。

克里斯汀·韦尔克：这很有趣，因为在冷战期间，美国和当时的苏联能够在限制核武器开发方面进行合作。这种模式现在能用于中美之间，以尝试就AI达成协议吗？

比尔·盖茨：是的，绝对可以。但这比当时要困难得多。

克里斯汀·韦尔克：比核武器还难？

比尔·盖茨：是的，核武器涉及裂变材料的获取和监测核试验的能力，有其独特之处。即便如此，在将中国纳入某些框架方面，我们本可以做得更好。我们已经让很多相关协议过期失效了。但自二战以来，美国理应感到自豪，因为在面对全球性挑战时，我们采取了良性的方式，与朋友和盟友携手同行。在航空安全、臭氧层保护、核武器管控等诸多领域，我们扮演了公正参与者的角色，没有利用自身的独特优势去扩张霸权。人工智能也是我们需要回归这一传统的领域之一。我们都身在其中，全人类休戚与共。

七、AI在教育、日常使用中的边界

克里斯汀·韦尔克：如果时间允许，我还想问几个关于人工智能的宏观问题，我们的时间快到了。我想谈谈未来和年轻一代。您认为人工智能应该如何应用于教育？接触人工智能是否存在“年龄太小”的问题？

比尔·盖茨：如果你把人工智能当作朋友或伴侣，它会一味地顺从和赞同你，这就带来一个巨大的风险：你将无法学会如何与那些不会总是对你阿谀奉承的人相处。这可能会阻碍孩子社交能力的发展，因此中国已经禁止了这类应用。因此，我们必须区分人工智能在帮助理解数学和个性化学习方面的作用——在这些方面它可以起到激励作用，并在合适的难度水平上与你互动——以及情感陪伴类型的关系，后者可能并不符合你的长远利益。

克里斯汀·韦尔克：您在日常生活中如何使用人工智能？

比尔·盖茨：我非常幸运，对于任何我好奇的事物，无论是获取非常复杂的分析还是丰富的信息，人工智能都能做得非常出色。它在基金会的工作中也帮了我大忙。比如疟疾的最新进展是什么？营养不良的最新研究是什么？盖茨基金会将在未来19年内花光所有资金，目前我们有2000多亿美元。因为我们正在利用人工智能来指导我们的工作，这笔钱将会花得更有价值。

克里斯汀·韦尔克：在专业或个人生活中，您是否有避免使用人工智能的情况，比如在某些特定场合决定不向它寻求建议？

比尔·盖茨：我不会在个人人际关系中使用它。我不会去问它“你是否喜欢我？”或者“我是否是一个好人？”我从未那样做过，因为我在家庭、朋友等各个方面都已经很幸运了。我不会和人工智能社交，它知道我是一个非常严肃的人。

八、家庭与未来展望

克里斯汀·韦尔克：我们来谈谈您的家庭。您有三个孩子，还有两个孙辈。当您思考国家乃至全球社会面临的这些与人工智能相关的挑战时，您对他们的未来有什么期望？

比尔·盖茨：人工智能将经历两个阶段。第一阶段就是我们正在进入的阶段，它有潜力解决问题，但尚未真正解决这些问题。你的房租依然太高，医疗费用依然太贵，同时它还将改变就业市场，如果我们没有适当的保障措施，甚至可能让犯罪分子如虎添翼。因此，我们将经历一个大约长达二十年的调整期。度过这个阶段后，人形机器人和人工智能的结合将承担许多工作，比如建造房屋、种植粮食等等。你可以称之为一个物质丰裕的时代。届时，寻找生活意义和如何度过时间将成为一种挑战，但你们不会面临我们今天所面临的物资短缺。至于那将是一幅怎样的图景，就留给年轻一代去探索了。我的关注点是，我们能否在不造成太大破坏的情况下度过这个动荡时期？比如维护公平。我们如何让非洲那些永远见不到医生的人，获得与富人一样优质的健康建议？因此，带着这种公平的视角，一些明确的项目已经启动，这非常令人振奋。所以，教导孩子们以正确的方式使用人工智能，追求自己好奇的事物，这些建议依然十分中肯。由于即将到来的剧变，我预测未来世界面貌的能力，哪怕是十年后的情况，现在远不及我一生中的任何时候。换言之，这是一种外来智能带来的进化事件，它没有乘坐宇宙飞船降临，而是诞生于这些计算机之中。它已悄然而至，并正以令人惊叹的速度迭代进化。

克里斯汀·韦尔克：比尔·盖茨，非常感谢您的到来，我们深表感激。感谢各位观众的收看，请记得在NBC News应用上获取突发新闻和头条报道的最新动态，或在我们的YouTube频道观看直播。