李飞飞、辛顿、吴恩达激辩AI大问题，但一切都早已注定

AI具有高扩散、低成本、低门槛的特征，这意味着任何监督力量都很难形成一个稳定的博弈结构去阻止AI的发展。

文丨FT中文网专栏作家 刘远举

美国当地时间2026年8月5日，全球AI行业大会AI4 2026上，李飞飞、辛顿、吴恩达，AI三巨头在台上激辩，争论一些关于AI的“终极问题”。台下坐着1.2万人，有AI公司创始人、工程师、投资人、制定政策的人。

有人说，他们三个人，联手缔造了今天这个AI时代。有人说，这是AI史上最重要的争论之一。

第一个争论，AI是否有意识。

辛顿认为，AI已经有意识，灭绝人类的概率是10%—20%，而吴恩达则持完全相反的观点。辛顿说：我不能证明你有意识。我也不能证明AI没有。这个问题，对人和对AI是对等的。

在我看来，无法证明人的意识，谈机器的意识就是无本之木。佛陀只有在金刚座上才能证道，因为只有此处是坚实的，能承担证道的实体性。如果人类不能从客观上证明自己的意识，那么，人类就无法用一个不存在的东西去当作标准，测度某种客体是否存在。

人类的意识是“私有的”，永远无法向外界客观证明。现在一些业内观点就认为，意识只是生物进化的一种副产品，是一种“幻觉”。在感情、信息的处理中，意识都不是一个必须存在的东西。

所以，吴恩达的观点是对的，他认为：这个说法在哲学上是有趣的，但对于制定政策毫。无帮助。

第二个争论，关于AI对人类的威胁。

辛顿认为，当下推测有10%的可能，AI会威胁到人，就不应该被忽略。他认为，当你给一个足够聪明的AI，设定一个宏大目标，它会自动产生很多不可预测的子目标。比如，“自我保存”是所有目标的子目标。再比如，你让AI去减少大气中的二氧化碳。它最后得出的高效方案可能是消灭人类。

正如我在另一篇文章中所说，人类这个集体概念是没有意义的。生于1850之前的人类都被消灭了，如今人类仍然存在，但对他们没有任何意义。

更何况，谈到AI灭亡人类的时候，人们脑子里总想的是残酷的“《终结者》模式”，但实际上，很可能是温情的“斯皮尔伯格《人工智能》”模式。电影中，儿童机器人对人类妈妈的爱，历久弥坚。

人类消亡的这种模式，几乎是无法抵抗的。在这种模式下，即便在AI的大目标下，推导出了“消灭人类”这个小目标，但仅仅从机器精确的算计来说，它也不会采取高成本的模式，而是低成本的机器伴侣模式。

第三个争论是，企业能做好自律吗？

辛顿的答案是不能，他举了一个例子：靠企业自律解决AI安全，就像靠烟草公司自律解决吸烟健康问题。据说，当辛顿说“绝不能把AI监管的决定权交给马斯克和扎克伯格”的时候，是全场掌声最响的一次。

吴恩达部分同意辛顿，认为不能依赖企业的自律，但他认为，AI末日论是吓人的，背后是大公司的商业算计。他认为，大科技公司告诉公众AI极其危险，不是为了安全，而是为了说“只有我们能掌控AI，提供安全”，进而推高合规门槛，让小公司和开源社区活不下去，保护自己的商业利益。

其实，他们完全可以把“企业能否自律地做好AI”这个问题，换作另一个问题：谁能做好AI的自律呢？

辛顿可能设想的是某个委员会，但这类外部监督，归根到底还是国家。但鼓掌的人忘了，商业公司追求利润，不追求毁灭，但追求国家，则不一样。

在冷战的核力量博弈中，双方争相扩大核力量，建立核威慑、核平衡的机制。从1963年的《部分禁止核试验条约》 到1974年《美苏限制地下核武器试验条约》 ，再到 1987年12月8日 签署了《中导条约》，通过一系列条约，美苏阶段性地停止了对核力量的追求。

核武器的好处是消极的，防卫性的。从创造财富的角度，核武器则是没有任何好处的。核武器是纯粹的成本。这种成本不仅仅是经济的，也是社会的，核末日影响着人心，是心灵的负担。所以，人类停止了核军备竞赛，与其说人类珍惜和平，不如说是在巨大成本逼迫人类做出了理性的选择。

但AI不是的发展，则完全不一样。

首先，AI和核武器一样，意味着巨大的国家实力。在国家博弈中，追求这种力量的付出、决心，是远大于商业公司的动机的。即便在这种博弈中，AI不再是像导弹那样的工具，而是可以具有能动性的智慧，在博弈中成为可能会带来毁灭的第三方。但对人而言，是人类按动的核按钮，还是AI制造的毁灭，都是一样的。AI是一个新因素，但任何毁灭都是同样的，AI并不能更令人害怕。

而且，核武器的风险是现实的、确定的，而收益为零。AI恰好相反，风险是潜在的、可能的，但AI的每一步发展，带来的商业利润却是现实的。

核武器只有国家力量能做，但AI却是国家力量和商业力量都能推进的。而且，其成本，远小于当年乃至如今搞核武器。从技术扩散的角度，从OpenAI震惊世人，到AI公司遍地开花，技术扩散只用了短短一两年时间。相比核技术，AI具有高扩散、低成本、低门槛的特征，这意味着，任何承诺都是不可置信的。这场博弈中，任何监督力量，都很难形成一个稳定的博弈结构去阻止AI的发展。

当一件事，是有利的，可以分散进行的，低成本的，那么，这件事的发展，就是不可阻挡的。在这种情形下，把争论集中到AI是否毁灭人类，浪费了宝贵的智力和注意力资源。让人类自制，不去追求AI的越来越强，是天真的。

所以，某种程度上，第三个争论，可以反过来可以论证第二个问题是没有意义的：不管AI是否能威胁人，人都无法建立一种机制去阻止。

李飞飞在辩论中，问了一个问题：如果你们两个都错了怎么办？Hinton，如果AI不会造成灭绝风险，你用恐惧叙事做了什么？吴恩达，如果风险是真实的，你的乐观主义让我们付出了什么代价？

辛顿说：如果我错了，代价是我们在安全上花了太多钱，延缓了一些AI应用。我可以接受这个代价。吴恩达说：如果我错了，我没法接受那个代价，但我真心不认为我错了。

李飞飞没有追问，现场沉默了大概三秒。

但更现实的人类社会的规律导向的是另一个局面：如果辛顿是对的，AI将威胁到人类，那么，这一切注定会发生，无法避免。如果吴恩达是对的，AI不会威胁到人类，那么，就该让一切顺其自然。

刘 远 举

央视网、第一财经、光明日报、腾讯大家、南方周末、新京报、南方都市报、FT中文网、澎湃等特约作家，多家智库研究员。

关注财经、科技、时政，以深度、专业、理性的态度，去掘现象背后的事实。

中国科技自媒体50人

第35届中国新闻奖评论三等奖

第34届中国经济新闻奖评论二等奖

第28届北京新闻奖一等奖

2024年湖南新闻奖一等奖

腾讯大家年度作家奖

新浪最有价值专栏作家奖

红辣椒评论年度佳作奖

已开快捷转载，欢迎转载

已开过白名单的公众号，转载请遵循转载规则

您的关注是最好的支持！