超级智能争论 | 潘恩荣：接着谈关于超级智能的争论

*中山大学哲学系（珠海）教授潘恩荣首发于微信公众号，保留一切知识产权，侵犯必究。

编者按：

《超级智能：少数派报告》引发的争论继续，见“”“”“”。

潘恩荣教授长期研究技术哲学、工程哲学和设计哲学，近来提出“极境人工智能”的新概念。

杨庆峰在其公众号文章《我们要如何看待超级智能？》提到：一个《超级智能：少数派报告》的三位牵头人被划分为三派。杨庆峰教授被划为激进派，刘永谋教授被划为保守派，“闫宏秀则保持她神秘的沉默态度”被划为温和派。这倒是有点意外。难道真是“少数派”，所以能分为更少数派？

作为报告的参与者之一，我倒并不认为我属于以上三派。相反，我更愿意提供一个思考方式，希望三派还是一个“少数派”。

在技术哲学研究领域，我自认为是“谨慎的乐观派”。一方面是我的工科男和程序员背景，我天然更倾向于技术乐观。（参见《无科学 不哲学》[1]）当然，也容易被看作是“技术决定论”一派。其实，我不是决定论派。就我的技术哲学研究领域而言，我发现，许多先进性的科学和技术引领了潮流而解释世界，但并没有改变世界而让解释成为社会文化传承下来。但是，“工业”，足够廉价且够用的科学技术经过规模化使用制造“产品”（技术人工物），能够改变世界且让新的“解释”成为社会文化传承下来。所以，如果超级智能不进入工业化体系，我对超级智能的看法就是乐观的；如果超级智能能够进入工业化体系，我的看法就是“谨慎的乐观派”。

另一方面是我对“工业革命”的理解，“技术+资本”模式真当令人纠结。西方经济学工业革命研究是总体倾向是乐观派，马克思恩格斯关于工业革命的研究，包括1844手稿、共产党宣言和资本论，总体倾向是悲观派。前几年我在看文本的时候，察觉到马恩经典论述中有一股“绝望”的气息。原来的工业革命发明和使用机器是让人更轻松，谁想到工业革命后机器不仅异化而且“增强”了剥削。更要命的是，这种改变“不可逆”，所以，科技伦理在当时已经无用，唯有“革命”打碎现有体系一部分或者全部，人类才能获得喘息机会。

当前，人工智能发展已经是“技术+资本”模式，如果不是现在尚处于新工业革命初始阶段，科技伦理尚大有可为之时，我估计也会站在革AI命的立场上。因为，如果18、19世纪工业革命的结果在21世界人工智能新工业革命中重现，机器人很可能是下一任资本的人格化代表（参见《人工智能“以人为本”伦理准则反思》[2]），人类都没资格与之竞争成为资本家，强化学习将成为新的资本逻辑（参见《造化论》[3]）。

关于面对超级智能的立场，确切的说，我不知道我到底属于以上三派那一方。可能是被划为左中右变换不定的一方。

我的观点是：超级智能=极境人工智能+人工智能发展模式（公式1）

关于面对超级智能的立场，是一种“意向”或“评估”。根据现代技术哲学经验转向纲领的精神：任何关于技术的反思应该基于可靠的充分的关于技术的经验研究和使用的效果。我对超级智能的立场会因为关于超级智能的“经验”而改变。这些“经验”包括“极境人工智能”和“人工智能发展模式”两部分。

“极境人工智能”是指通过数据、算法和算力三方的共同作用，使人工智能技术结构性能达到极高水平，进而在应用场景中的效果达到或突破使用者现有认知的边界。（参见《造化论》2025）通俗来讲就是，人工智能已发展出“极境”（Peak）——超级厉害的——能力，智能水平达到甚至超越人类智能的程度，已突破人类以往认知的边界。

“极境人工智能”已多次达到或突破人类认知边界。例如，2012年，辛顿带领伊利亚·苏茨克弗（Ilya Sutskever）等使用基于深度学习技术的AlexNet算法在ImageNet大型视觉识别挑战（ImageNet Large Scale Visual Recognition Challenge, ILSVRC）中夺冠，首次将人工智能图像识别的准确率提高到人类平均水平85%以上，此后深度学习技术成为人工智能算法的底座；2016年，AlphaGo战胜人类围棋冠军，此后人工智能成为各国竞争的关键领域之一；2022年，ChatGPT成为现象级应用软件，此后人机交互从代码输入走向对话交流；2024年，研发AlphaFold的科学家因其在蛋白质结构预测领域的革命性贡献获得诺贝尔化学奖，人工智能驱动科学（AI For Science, AI4S）成为人类科学研究的新范式。（参见《造化论》[3]）如果把超级智能看作是一个远处有点模糊的影像，那么，极境人工智能就是在几个认知边界点上做标记，勾勒超级智能的轮廓。

在讨论我的立场的时候，上述“超级智能”公式1需要变成以下形态：

超级智能=极境人工智能/人工智能发展模式（公式2）

从公式2来看，超级智能是否有风险以及有多大程度的风险，来自极境人工智能与人工智能发展模式之间错位产生的张力。如果极境人工智能能力远远高于人工智能发展模式对人工智能的控制力。这就像小孩（人类）耍大刀（人工智能）。刀（人工智能）会杀人的事实，人工智能研发专家肯定看到了。所以，许多人工智能大牛签署公开信“暂停GPT六个月”（参见《暂停公开信：人工智能全球治理的关键时刻来了》[4]）。我认为，他们希望能加快对人工智能的理解，以便于发展出与人工智能新能力匹配的发展模式。

人工智能发展模式控制力差才是超级智能风险的源头。关于人工智能灭绝或衰退，与其说是对人工智能本身极境能力的害怕，不如说是对人类自身发展人工智能模式的害怕。在超级智能增强下，如果18、19世纪工业革命的结果再次出现，人工智能运气社会或者人工智能宗教社会逻辑上是可能的。（参见《超级智能增强与求真社会建构》[5]）所以，我认为，减少极境人工智能与人工智能发展模式之间的张力是首要治理任务，这就是“极境人工智能的性能与伦理相统一”的理念——造化论。（参见《造化论》[3]）

当下，我认为，伦理及价值观已经跟不上极境人工智能能力的提升，那么，改变当下“伦理”“价值观”及其背后的人工智能发展模式，匹配超级智能或极境人工智能的能力是当务之急。这比人工智能对齐当前人类价值观更正当。人工智能应该对齐新的人类价值观。

关于辛顿的表态，许多人认为当代人工智能“教父”老爷子立场不坚定，变来又变去。我倒是觉得，老爷子也是工科男，他对超级智能的看法方式和我类似，根据人工智能发展的实际情况而定。辛顿从Google离职后开始表达人工智能安全的看法，我认为，他有古典的“骑士”风范。相比于其他沾染商业和资本的人工智能专家，辛顿的看法，尽管变来又变去，但更能准确体现人工智能当下极境能力（性能）与发展模式（伦理）之间的张力程度。沾染商业和资本的人工智能专家，他们经常立牌坊表达伦理态度，做的事情却处于“技术+资本”模式中难以看清。真当令人纠结。

辛顿“人工智能是母亲，人类是婴儿”的观点，我支持。辛顿更重“母性”，我偏重“分工”，人工智能可以看家护院，另有能力也可以担当“育儿”角色。例如，“通俗地讲，即便ChatGPT及其他生成式人工智能是机器不是人，我们也可以‘家庭成员’方式对待人工智能，例如，狗可能带有致命的狂犬病毒，但它也能看家护院、近人情通人性。阿尔法狗可能引发失业和更多混乱，但它也能进化到ChatGPT那样看家护院、近人情通人性。”（更多参见《ChatGPT不讲武德，教育界学术界率先跳出喊“封杀”！》[6]）

注释：

https://news.sciencenet.cn/sbhtmlnews/2018/12/342121.shtm

潘恩荣、孙宗岭：《人工智能“以人为本”伦理准则反思——一种马克思主义哲学的分析思路》，《云南社会科学》，

2022

(6)

30-39.

https://news.sciencenet.cn/htmlnews/2023/4/498026.shtm

[5]

潘恩荣、江家祥：《超级智能增强与求真社会建构》，《理论探索》，

2025

4

13-19.

[6]

https://news.sciencenet.cn/htmlnews/2023/2/493639.shtm