清华AIGE红皮书解读（3）：智能社会的形成与典型特征

来源：市场资讯

（来源：图灵人工智能）

转自AI光影社，仅用于学术分享，如有侵权留言删除报道

9月9日，清华大学计算机系发布《人工智能通识教育》红皮书，定义了人工智能通识教育（AIGE）的学理基础和历史使命，提出了以“认知自治”为核心目标的课程体系和实现方案。本系列文章将采用更通俗的语言，解读“红皮书”的基本脉络、关键概念、主要论断和焦点证据。
作为本系列的第三篇，本文将讨论红皮书中的一个基本判断：人工智能的发展正在将人类社会带入一个崭新的智能社会，“认知自治”正是智能社会对公民的基本要求。

我们已经讨论了人工智能时代教育的基础目标，以及人工智能通识教育的历史使命。这些讨论都建立在一个基础判断之上：人工智能正在深入参与人的认知与社会活动，推动人类社会进入一种崭新的社会形态，即智能社会。

我们从几个方面来讨论这一重要判断：智能社会是怎样形成的？它与过去的社会有怎样的历史联系？人工智能究竟带来了什么根本变化，使我们有理由将其视为一种新的社会形态？

本文将讨论，智能社会的形成有着深刻的历史动力。生产与社会分工的发展，持续提高社会的复杂程度，推动部分认知任务转由外部工具或系统承担。人工智能的加入极大加速了这一趋势：它实现了部分智能活动的计算化，使认知能力能够被保存、复制和大规模调用；当这些能力进一步进入社会的工作流程与制度安排，社会活动的组织方式也随之改变。智能社会正是这一过程的必然结果。

一、社会复杂化进程与认知外部化

随着生产力的发展，社会结构与运行过程越来越复杂：生产环节更加细密，组织联系更加广泛，制度设计更加多样。这使得原有的工具与协作方式逐渐接近能力上限，并推动人们改进工具并调整组织方式。有了这些新工具和组织方式，传统生产模式被突破，生产力获得解放。

被解放的生产力又会进一步提高社会的复杂度。例如，机械化生产与交通运输的发展，使更大规模的工厂、更远距离的贸易和更细密的产业分工成为可能。计算机的出现使信息处理与传输的速度显著提高，催生了现代金融交易网络。原有的困难得到缓解，更复杂的社会也在这一过程中形成。

社会发展由此呈现出一个不断推进的循环：社会复杂化使原有工具与组织方式接近上限，新的工具与系统突破这些限制，扩大的活动范围又构造出更复杂的社会。这一过程具有明显的累积性和自我强化特征。只要社会继续发展，突破既有能力边界的需求就会持续产生，社会复杂化也由此形成难以逆转的历史趋势。

伴随这一过程发生的，还有人类认知活动的重新分配。复杂社会需要的知识、记忆、计算和协调，越来越超出任何个人能够独自承担的范围。人们因而需要借助外部载体与系统，将部分认知任务交由外部工具与系统承担。

文字和书籍保存知识，减轻了个人记忆的负担，也使经验能够跨越个体生命而延续；计算器承担运算，使人可以处理远超心算能力的数量关系；导航系统提供定位与路线规划，使人不必记住所有道路。在这些活动中，记忆、计算与判断的具体环节，被分配给了不同的外部工具。

我们可以将这一过程概括为“认知外部化”：部分认知任务由外部载体、工具和系统承担，认知活动通过人与外部资源的配合来完成。

值得说明的是，认知外部化本身就是社会发展中的一环。书面记录支持跨时间、跨地域的知识积累，计算工具支持更复杂的工程与科学研究，调度系统支持大量人员和设施之间的协作。工具帮助人完成已有任务，也为过去难以开展的活动创造条件。认知外部化因此参与推动社会复杂化，并在更复杂的社会中获得进一步发展的需要。

人工智能正是在这一历史进程中发展起来的。它延续了人类借助外部系统扩展认知能力的大方向，并把认知任务在人与机器之间的重新分配推进到新的阶段。

二、智能活动计算化

如果将人工智能视为一种和蒸汽机、电力、计算机一样的工具，那么它的出现只是让社会的复杂度更高，认知外部化更为明显。然而，人工智能的基础贡献不是能力和效率的提高，而是对人类认知能力的“普遍模拟”。

红皮书将这一过程概括为“智能活动的计算化”，即将人类的学习、识别、推理、判断、生成和规划等活动转化为可以表示、构建、运行和检验的计算过程。这意味着机器可以获得与人“类似”的认知能力，使得机器可以进入某些之前只有人类才能参与的认知场景，与人共同承担工作，并对其中一些环节形成替代。

特别关键的是，机器可以通过模仿人类的学习行为实现知识与技能的积累与更新，通过模仿人类的推理行为实现深入思考、任务规划、工具的制造与使用。这些“元能力”推动了人工智能对人类认知能力的“普遍模拟”，而不是记忆、识别这种孤立能力。

然而，模拟只是第一步。一旦机器可以获得与人类可比较的认知能力，它对人的比较优势马上就会显现出来，比如持续积累能力、可迁移性、快速计算能力。

持续积累能力：人的能力与个体的生命历程紧密相连，个体退出以后，其未被充分表达的经验和熟练判断，也可能随之流失。与之相比，机器所形成的部分认知能力，则可以通过模型及相关系统的保存与复制，跨越具体设备的存续期限。

可迁移性：一个系统完成学习以后，其模型可以被复制、部署到其他具备相应运行条件的机器上，使它们获得相应能力，无须各自从头经历同样的学习过程。

快速计算能力：和人相比，计算机本身就有速度上的优势，而且可以通过并行计算以资源换速度。这为认知能力的规模化供给提供了基础。

三、社会活动计算化：智能社会的形成

“智能活动的计算化”使部分原本主要由人承担的认知功能，能够以计算系统的形式实现，并通过复制和部署形成规模化供给。这些计算化的认知能力可以批量化进入社会活动，对社会的运行进程产生影响。红皮书将这一层面的变化概括为“社会活动的计算化”。

社会活动计算化包含一系列相互衔接的转换：现实对象被转化为数据，历史经验被组织为模型，社会目标被表达为指标和约束，模型输出进入工作流程，组织制度再赋予这些输出相应的效力。计算由此参与机会分配、资源调度和社会行动。

以招聘为例。人工智能可以帮助工作人员阅读简历、整理材料。如果一个组织将AI评分纳入筛选规则，那么，模型的输出就获得了影响就业机会的现实效力。在这一例子中，模型承担了原本由人完成的筛选判断；组织进一步将模型输出纳入招聘规则。认知功能的计算实现，由此进入社会运行结构。

当人工智能的能力被扩展到大量组织，并通过网络彼此连接，认知能力的可计算化与可部署性就从个体尺度进入社会尺度。任务怎样划分，信息经由哪些渠道流动，决定在哪个环节形成，责任由谁承担，都可能随之调整。同时，一些过去受制于处理能力和组织成本的服务与协作，也获得了实现的条件。

这正是从技术进步到社会形态变化的关键。智能活动计算化，为机器参与认知劳动提供能力基础；社会活动计算化，则把这种能力嵌入组织、平台和制度，使其成为社会运行的常态条件。这两种计算化过程相互衔接、共同作用，最终形成了一种新的社会形态，红皮书称之为“智能社会”。

按照红皮书的界定，智能社会是“人的知识生产、信息传播、判断形成和社会行动持续通过人工智能系统与制度共同中介的社会形态”。这一界定强调人工智能与社会运行之间的结构性联系。人们越来越多地通过智能系统获得材料、理解问题、形成判断和开展行动，社会也越来越多地围绕这些系统配置资源、组织合作和安排责任。

在这个意义上，智能社会的形成具有坚实的历史动力。社会复杂化持续提出新的处理需求，认知能力的计算化提供新的可能，能力复制与制度嵌入进一步推动规模扩展。这些力量使社会智能化具有持续推进的趋势。

四、智能社会的六项典型特征

第一，人工智能的基础设施化。

当认知能力能够被大规模复制和调用，它就会逐渐成为不同活动共同依赖的基础条件。人工智能可以被嵌入办公、教育、科研、生产和公共服务的流程，在后台持续承担识别、筛选、生成、预测与调度等工作。人们使用一种服务时，未必需要专门启动一个人工智能工具，也可能已经在借助它的能力。

基础设施化意味着，人工智能的影响会超出主动使用者的范围。一个人即使没有直接使用AI，他所接触的信息、获得的服务和接受的评价，也可能经过智能系统的处理。人工智能的可靠性、可获得性和运行规则，由此成为具有公共意义的问题。

第二，社会过程的数据化与模型化。

社会活动要进入计算系统，就需要被表示为系统能够处理的对象。人的经历、组织的运行和活动的结果被记录为数据，历史材料中的关系被用于构建模型，复杂的社会目标被转化为可计算的指标和约束。社会因此获得了更大规模的观察、分析与预测能力。

这些转换同时包含选择。哪些经历被记录，哪些差异被忽略，什么表现被视为成功，都会影响系统能够认识什么、优化什么。当模型输出进一步影响资源分配，人和组织还会围绕相应指标调整行为。数据与模型由此参与塑造它们所描述的社会过程。

第三，认知与行动的人机混合化。

智能活动计算化，使问题提出、资料选择、方案生成、判断形成和行动执行可以在人与机器之间重新分配。一项工作可能由人确定方向，由系统处理材料和提出建议，再由人审查并借助系统执行。人在其中既获得能力扩展，也形成对外部智能的持续依赖。

这种混合改变了分析工作的基本单位。我们需要观察整个过程：谁提出问题，谁选择依据，谁确定目标，谁保留决定权，谁能够发现并纠正错误。最终成果由人机共同形成，人的实际作用也需要通过这些具体环节来理解。

第四，社会连接的平台中介化。

在大规模社会连接中，平台通过接口、规则、排序和推荐，组织信息、服务与注意力的流动。人工智能进一步参与匹配需求、筛选内容和安排交互，使大量关系能够被即时建立与调整。

平台由此影响人们能够接触什么、与谁发生联系，以及哪些事物更容易获得关注。信息的可见性和机会的可获得性，越来越多地受到这些安排的影响。人与人之间的联系，也就包含了平台目标、技术规则和组织利益的作用。

第五，系统运行的反馈演化。

智能系统的输出会影响人的行为，人的行为又形成新的数据，成为后续分析和系统更新的依据。例如，推荐影响用户看到什么，用户的点击与停留又参与后续推荐；评价指标影响组织怎样工作，组织调整后的表现又成为下一轮评价的材料。

系统与社会由此形成持续的反馈关系。这种关系可以帮助系统发现问题、改善服务，也可能使某些偏差在循环中被强化。评价一个系统，需要观察它在持续使用以后，怎样改变人的行为、组织的激励和后续数据。最初的设计与一次性的测试，难以覆盖这种长期演化。

第六，技术、制度与价值的深度耦合。

计算系统总要围绕一定目标运行，而目标的确定涉及价值选择。提高效率、扩大覆盖、保障公平、保护隐私等要求，需要在具体场景中得到安排。制度则决定系统可以处理什么信息、承担什么任务，以及输出具有多大效力。

同一个评分模型，可以被用于提供参考，也可以被赋予自动筛选的权限，其社会后果会因此不同。技术如何发挥作用，始终与组织如何使用它、制度如何约束它相联系。因此，智能社会的建设需要同时讨论模型能力、使用规则与公共价值，并建立相应的审查、纠错和责任机制。

这六项特征相互联系。基础设施提供持续的能力供给，数据和模型使社会对象进入计算，人机混合重新分配认知与行动，平台组织社会连接，反馈推动系统持续演化，制度与价值则贯穿其中，共同决定这些能力怎样作用于人的生活。它们共同呈现了智能社会的运行结构。

五、认知困境与认知自治

理解了智能社会的形成及其特征，智能社会中的认知困境也就清晰起来。

人工智能扩大了人获取知识、理解问题和完成任务的能力，同时也使认知过程的更多环节分布在外部系统之中。人可以更容易地得到结论，却未必同样容易理解结论的来源、证据与适用边界；可以更顺利地完成任务，却未必充分参与目标确定与判断形成。信息如何进入视野、指标如何影响选择、系统建议如何转化为行动，都需要受到主动审视。

红皮书从信息过载、来源混杂、生成内容、算法中介、边界限制、指标治理和自动化决策等方面，分析这一新的认知环境。当个人难以理解和调节自身的认知行为，人的判断能力与责任承担就可能出现失衡；当这种失衡广泛发生，社会共同讨论事实、检验真伪和纠正错误的基础，也会受到影响。

红皮书因此提出“认知自治”，即个体在复杂认知环境中，对自身信念形成、证据使用、信任分配、判断边界和行动责任进行主动调节的过程。人需要积极利用外部智能，同时保有提出问题、追问依据、校准信任、修正判断和承担责任的能力。教育要帮助人形成这些能力，制度也要为核验、质疑和纠错提供前提条件。

六、结语

人类社会正在进入智能社会，这是一种人工智能与社会运行机制深度融合的社会形态。在这样的社会形态中，人类保存、获取、共享知识获得了极大便利，个人能力得到极大延伸，拥有了更多选择的机会。同时，本属于人的认知任务也被大量外包，存在认知卸载风险；人所接触的信息也被智能系统中介、过滤，决策风险也相应增加。如何面对这一新的社会形态，保持个人的主体性和参与公共生活的能力，是个亟待解决的关键问题。

人工智能通识教育所承担的时代使命，正是帮助每个人理解正在到来的智能社会，主动参与其中，并保持自身的认知主体性。