徐贲｜人工智能时代的“人类愚蠢”

在任何时代，启蒙的最大障碍是人类的愚昧和人类自己制造和维持的无知环境条件。在漫长的中世纪，由于将宗教与美德相提并论，再加上最虔诚的人并不是最聪明的人，宗教教育给了无知者反抗有教养者知识权威的勇气。今天，在进化论教学被取缔的地方依然在发生这样的事情。同样，通过将意识形态与正确性相提并论，再加上那些意识形态立场最坚定的人并不是最聪明的人，意识形态教育给了无知者反对启蒙和独立思想价值的傲慢和狂妄。

要克服人类的愚昧和无知环境条件所造成的障碍，就必须改变造成这些现象长期存在的根本条件。启蒙和教育在培养批判性思维、怀疑精神和挑战迷信盲从方面发挥着至关重要的作用。通过促进求知欲和开放性思维，教育可以增强个人抵御无知和意识形态傲慢诱惑的能力。此外，培养宽容和尊重不同观点的文化对于促进启蒙和思想进步至关重要。启蒙和教育鼓励对话和辩论，将其作为交流思想和挑战固有观点必不可少的机制。

在当代，对启蒙的追求面临着前所未有的挑战，而人工智能的出现则放大了这一挑战。长期以来，人类的愚昧和无知阻碍了智力的进步，而人工智能与社会各方面的融合则带来了新的复杂性。

人工智能加剧人类愚蠢的重要方式之一是放大认知偏见和错误信息。人工智能算法虽然旨在处理大量数据并提取模式，但很容易受到其分析的数据和开发这些算法的人类所固有的偏见的影响。因此，人工智能系统会延续甚至放大人类的无知和偏见，导致错误信息、回音室和两极分化言论的扩散。此外，人工智能决策过程的不透明性会掩盖偏见，加剧有缺陷或误导性信息的传播。

除了扩大现有形式的无知之外，人工智能的整合还通过使我们对知识和真理的理解复杂化，创造了新的无知维度。人工智能算法的复杂性及其自主决策的能力对传统的知识权威和专业知识提出了挑战。例如，随着人工智能系统对从医疗诊断到法律判决等各个领域的决策产生越来越大的影响，其决策过程的不透明性可能会掩盖其结论的依据，从而破坏问责制，削弱人们对机构的信任。

尽管人工智能带来了挑战，但它也提供了通过技术创新和批判性参与来增强人文启蒙战胜人类愚蠢的机会。这需要人类批判性思维的介入，例如，人工智能开发和部署过程中的透明度和问责制对于降低偏见和错误信息的风险至关重要，应该成为开发者的优先考量。

此外，努力提高人工智能使用者自身的数字素养（digital literacy）和批判性思维能力，对于增强个人驾驭以人工智能为媒介的复杂信息环境的能力也至关重要。技术专家、伦理学家、政策制定者和学者之间的跨学科合作，可以帮助促进对人工智能的伦理、社会和哲学影响有更加周全和细致的考量，从而推动知情决策，促进合乎伦理的人工智能发展。所有这些都有助于应对人工智能时代更为复杂的个人和体制性愚蠢。

正如文艺复兴时期的伊拉斯谟（Erasmus）所发现的那样，愚蠢是永恒的，但人类却幸存了下来。如果把我们这个时代的愚蠢放在过去的愚蠢的背景下来看，就会更容易理解，虽然未必就更容易接受。尽管历史和社会的发展论向我们允诺人类的不断进步，但未必就真的有证据支持这样的信念。经常是恰恰相反，我们看到世界在不断地进一步陷入疯狂，看到伟大的国家，昔日的文明领袖，被胡言乱语的愚蠢人士引入歧途。我们看到残酷、迫害、迷信、盲从和愚蠢在持续增长，以至虚无主义者很容易把18世纪启蒙运动时的启蒙愿景当作一个令人遗憾的，从天真时代幸存下来的老古董。这一切都令人沮丧和绝望，但沮丧和虚无主义是无用的情绪。为了摆脱这种情绪，今天的人文启蒙不得不比以前更加专注地研究过去，并且发现，今天的愚蠢不能完全与古代的愚蠢混为一谈，而且，我们的时代并不比我们的祖先所经历的其他时代糟糕多少。再说，我们比我们的祖先对愚蠢有了更多的理解，所以我们克服愚蠢的机会也许会更好一些。

《人类愚蠢基本定律》

卡洛·奇波拉（Carlo M. Cipolla）的《人类愚蠢基本定律》（The Fundamental Laws of Human Stupidity，1976）就是一本能帮助我们更好地理解愚蠢的书。书中用通俗易懂的语言介绍和分析了关于愚蠢的四条法则，它们仍然适用于人工智能时代的人类愚蠢。

奇波拉的第一条定律是：“每个人总是不可避免地低估了流通中的愚蠢个体的数量。”这一定律概括了人类感知的一个普遍真理——我们往往低估了社会中愚蠢的普遍程度。尽管我们对愚蠢有直观的认识，但我们往往认识不到它的程度，从而导致意想不到的遭遇和后果。这一定律警示我们要保持警惕，注意人类愚蠢的普遍性。

第二定律指出：“个人愚蠢的概率与这个人的任何其他特征无关。”这一定律挑战了人们对智力的普遍假设，表明愚蠢并不局限于特定的人口统计或特征。无论一个人的背景、教育程度或社会地位如何，他都有可能表现出愚蠢的行为。这个关于愚蠢的平等主义观点强调了愚蠢的不可预测性和无差别性，强调了谦逊和自我意识的重要性。

第三定律为奇波拉的分析引入了一个关键维度，它区分了四种类型的个体：聪明人、无助的人、强盗和愚蠢的人。根据奇波拉的分类，聪明人对社会做出积极贡献，而无助的人不会对社会构成重大威胁或带来重大利益。强盗利用他人谋取私利，而愚蠢的人则有意无意地给自己和他人造成伤害。这一分类法为人类互动和社会动态提供了宝贵的见解，突出了理性与非理性之间固有的紧张关系。

最后一条定律揭示了愚蠢最令人担忧的一面：愚蠢能够在伤害他人的同时伤害自己。与明知故犯地利用他人的强盗不同，愚蠢的人无意中会通过自己的行为制造混乱和痛苦。无论是由于无能、无知还是漠不关心，愚蠢都会对社会凝聚力和进步构成巨大威胁。

只有认识到愚蠢的破坏潜力，社会才有可能采取措施减轻其影响，促进集体福祉。非蠢人总是低估蠢人的破坏力。特别是，他们总是忘记，无论何时何地，在任何情况下，与愚蠢的人打交道或交往，都会是一个代价高昂的错误。

奇波拉还揭示了崛起国家与衰落国家的区别。对这两种国家之间的“愚蠢”动力差异进行了发人深省的分析。他认为，虽然所有国家都不可避免地存在一定比例的“愚蠢”人口，但关键的区别在于人口中聪明人的比例。

正在崛起的国家中，聪明人明显占多数，他们共同弥补了智力天赋较低的人的不足。这些聪明的公民通过创新思维、解决问题的能力和建设性的行动，为国家的进步和繁荣做出了贡献。他们的存在抵消了愚蠢的不利影响，确保了国家在存在一定比例的不聪明人的情况下仍能继续前进。

相反，在衰落的国家中，“非愚蠢”——有知识但无智慧，人不傻但不开窍——的人大量涌现，其行为无意中造成了社会的永久衰败。这些人虽然本身并不缺乏能力，但却算不得聪明，他们往往不能以建设性的方式利用自己的能力。相反，他们可能会成为被动的旁观者，甚至不知不觉地助长了那些长期愚蠢的同胞的破坏性行为。

奇波拉指出了衰落国家中两个截然不同但同样有害的群体，他们的行为导致了社会问题的恶化。他们分别是“强盗”和“丧失权力的群众”。

“强盗”指的是在政府、企业或其他有影响力的机构中占据社会权力地位的人群。这些人利用职务之便谋取私利，参与腐败行为、掠夺资源和滥用权力。他们将自身利益置于国家和公民福祉之上，往往通过非法手段积累财富和影响力。他们的行为可能包括贪污公款、行贿受贿、任人唯亲和拉帮结派。通过这些行为，“强盗”加剧了国家面临的问题，进一步削弱了人们对国家机构的信任，使不平等现象长期存在，并破坏了社会凝聚力。他们的行为助长了腐败和有罪不罚文化的恶习和惯性，阻碍了实现可持续发展和进步的可能。

“丧失权力的群众”指的是衰落国家中被边缘化、权利被剥夺或在社会中缺乏能动性的广泛人群。这些人可能面临各种形式的结构性和系统性障碍，限制了他们获得资源、机会和政治参与。经济不平等、社会排斥和政治压迫导致他们的权能丧失，使他们很容易受到掌权者的欺骗、引诱、利用和操纵。尽管被剥夺权力的群众有可能心生怨恨和不满，但他们对自己的处境听天由命、逆来顺受、一味顺从，缺乏挑战现状的手段或信心。他们对现状的被动接受在惰性和冷漠中循环往复，进一步巩固了“强盗”的统治地位，加剧了国家的衰落。

“强盗”和“丧失权力的群众”代表了衰落国家中两个截然不同，但又相互关联的群体。“强盗”利用权力和影响力，以牺牲国家利益为代价谋取自身利益；而“无权大众”则不能或不敢为维护自身权益和政治变革而奋斗。这两个群体以不同的方式助长了恶性社会问题的长期存在，最终挫败了为实现进步、正义和社会凝聚力所做的努力。

奇波拉所描绘的“强盗”和“丧失权力的群众”都是体制性愚蠢的维护者，认识他们的愚蠢只是第一步，更关键的下一步就是我们该怎么办？

在应对强权者的道德盲目和无权者的消极退让所带来的双重挑战时，一个社会必须采取多层面的方法，以促进道德治理、增强边缘化社区的能力、培养批判性思维和推动集体行动。通过解决这些形式的愚昧的根源，我们可以努力创造一个更加公正、公平和有韧性的社会。

为了遏制“强盗”——利用权力地位谋取私利的个人——所表现出的道德盲目性，社会必须将官员和社会精英的道德要求和问责放在首位。这包括建立健全的法律框架、独立的监督机制和透明的治理程序，迫使掌权者对自己的行为负责。此外，通过教育、宣传活动和公共讨论来培养一种有利于公共道德、社会诚信和民主责任的文化也至关重要。但自由和民主的制度改革和建设是最重要的，如果不能通过真正的法治将权力有效地关进笼子，并把钥匙交到选民手中，却是去期待“强盗”自己良心发现和道德自律，那是水中捞月、白日做梦。

增强“无权大众”的智慧、权能和行动能力需要倡导启蒙，促进教育、信息和资源的获取。在怀疑主义和虚无主义盛行的今天，许多人已经对启蒙、教育和信息公开的可能作用丧失了信心。人文启蒙和公民教育本身被他们当作一种不切实际的白日梦。确实，以前的启蒙和教育远没有起到人们曾经期待的作用。但是，如果彻底放弃启蒙和教育，后果又会如何呢？除了启蒙和教育，还有什么别的办法吗？

放弃启蒙和教育会给个人和整个社会带来可怕的后果。启蒙、教育和获取信息不仅仅是奢侈品，它们还是个人成长、社会进步和维护民主的基本权利和必要工具。在当今这个向往“躺平”“无为”和“一动不如一静”的社会里，愤世嫉俗和无所作为之风盛行，有些人可能会否定启蒙和教育的潜力，这是可以理解的。然而，完全放弃这些原则就等于向无知、愚蠢和绝望投降。相反，我们必须重新致力于倡导启蒙、批判性思维、信息公开、公民参与，这是我们在逆境中自救剩下的唯一方法。在自救的方法选择中，我们没有挑精拣肥的余地。看不到这一点，是一种自我断送、自我毁灭，因此是不可饶恕的愚蠢。

人工智能时代和其他任何时代一样，聪明人会享受供应充足的美好事物，而愚蠢者也会在智力垃圾中找到丰富的食物。愚蠢的人群在任何一个国家都有，愚蠢的事情在每个国家里都会发生，但是，发生愚蠢的原因，尤其是愚蠢的规模和严重程度却会在不同的国家有很大的不同。奇波拉所说的那种愚蠢是极端的，也是可怕的，一旦发生了，就会落地生根，再也难以逆转。因此，我们必须在它已经开始发生的时候，就尽最大的努力，阻止它的全面发生。看不到愚蠢落地生根的可能，那只会成为另一种更严重的愚蠢。

本文节选自《人类还有希望吗：人工智能时代的人文启蒙和教育》（徐贲 著，上海三联书店，2025年5月版）

来源：徐贲