“大系统”时代来临：AI与人类协作共生新形态逐步显现

本文转自：人民网

刘虎 郭强 赵秋红 黄钧 黄敏杰

近年来，人工智能技术迎来爆发式增长，从ChatGPT到DeepSeek-R1，生成式大模型推动全球AI浪潮进入新阶段。在此背景下，一种由人工智能深度融入人类生产生活所形成的“大系统”正在逐步成形，引发广泛关注。

“无身”与“具身”AI双轨并行

人工智能的发展路径可追溯至1950年图灵提出的“无身”与“具身”两条路线。“无身”智能指无需物理实体的AI，聚焦计算和数据处理，如语言模型或算法系统；“具身”智能则需通过物理载体（如机器人）与环境交互，强调感知与行动能力。

无身智能因无需复杂载体，受益于大数据和计算能力飞跃，发展迅速。尽管当前大模型还做不到通用人工智能（AGI）的程度，但是可能距离并不遥远，Google DeepMind的报告称AGI可能在2030年前到来。

具身智能的发展则更为波折，受限于计算能力、传感器技术和机器人硬件，早期进展缓慢。随着多模态大模型技术的发展，为其带来一些新的活力。具身智能与物理世界直接交互，天然适合融入人类生产生活系统，其形态正向无人机、自动驾驶车辆和人形机器人等多样化、自主化发展。今年4月，北京亦庄举办首届人形机器人半程马拉松比赛；8月，“2025世界人形机器人运动会”在同一地点举行，来自16个国家的280支队伍在智能决策、运动协作等项目中展开激烈角逐，展现出机器人技术的显著进步。

AI的爆发式发展已经改变传统体系的运行模式，无身智能的计算能力和具身智能的物理交互能力，使系统间的互联性和动态演化能力显著增强。

从大模型到大系统 系统融合进入新阶段

如何描述未来AI融入各类系统后的形态是一个急需解决的问题。复杂系统传统上以“体系”（System of Systems, SoS）描述。国际系统工程学会将体系定义为：“体系是一个由独立系统组成的集合，这些独立系统被整合成一个更大的系统，以提供独特的功能。独立的组成系统通过协作产生整体行为，而这些行为是单个系统无法独立产生的。”Maier在1998年提出了体系结构的五个关键特征：运行独立性、管理独立性、地理分布、涌现行为和演化发展过程。

体系在多种领域广泛存在，航线网络和城市交通就是典型的体系。随着AI在体系中所占的比例越来越高，必然会带来额外的非线性与涌现现象，显著加速体系演进。这些变化是体系概念提出之初和发展中都不曾遇到的，给未来复杂系统的分析与管理带来挑战。

针对AI在复杂系统中与人类的广泛共生，北京航空航天大学研究团队提出“大系统”这一新概念。“大系统”（Big System）是在从大数据（Big Data）到大模型（Big Model）的发展基础上，由于AI的爆发性增长产生的复杂系统新形态，通过人类及传统人造系统与AI系统的协作与共生，共同服务于大系统的使命与目标。“大系统”应具备以下基本特征——

泛在共生性：高智能AI系统，无论是具身化的实体系统还是赛博空间中的智能体系统，在大系统中广泛存在，与人类及非AI系统紧密互联。

复合涌现性：人类与AI会强互联，产生持续、大量的交互与协作，能够产生更多无法预测的行为与现象。

多向驱动型：AI可以协助人类实现大系统的目标，而人类对AI的需求也会反推AI快速发展。

加速演化性：大系统的AI可以实现远超传统系统的进化能力，实现大系统整体能力加速演化。

当前已经有部分系统初步具备“大系统”的雏形。2025年3月，优必选Walker S1机器人在工厂完成协同作业测试，此次测试涉及多种复杂场景和工业任务。在应急使命2025演习中，无人机与地面应急救援力量协同，突破传统救援方式的局限，提供全新思路与方法。

大系统面临多重挑战 可控性是关键

当前，各国各地区已经在积极探索AI监管，例如欧盟的人工智能法案对不同层级与危险度的AI实施不同力度的监管。近些年来，我国一系列法律法规和专项行动的开展，展现了中国特色人工智能治理体系建设正加速推进。对于“大系统”，更需确保可控性，使其能够安全、有效、可持续地为人类社会服务。要达到这一目标，至少还需要应对如下的挑战：

AI对于人类行为的理解偏差。AI行为在复杂任务中可能偏离人类指令，同时AI对于目标的实现路径也可能与人类设想不同，可能以与人类利益相冲突的方式追求其目标。

AI行为的不可解释性。AI的决策过程对人类缺乏透明度，人类对其行为逻辑的理解存在客观困难，进而影响人-AI系统的协作和大系统目标的实现。

“大系统”的动态涌现与难以预测性。“大系统”中AI与其他系统的交互高度复杂非线性，同时AI具备自主学习能力，系统的动态演化过程难以预测。

外部攻击风险。“大系统”有着高度自主、高度互联的特点，一般节点被渗透攻击的风险与识别难度激增，而重要节点被破坏的影响都将不可估量。

7月26日，在2025世界人工智能大会开幕式上，图灵奖得主杰弗里·辛顿将人类与AI的关系比喻为“饲养虎崽”，强调必须在其成长过程中确保可控与安全，才能实现长期共生。

为应对这些挑战，需要增强“大系统”的可控性与安全性，构建出符合人类利益的“理想”“大系统”：

加强持续监管。为确保“大系统”的可控性，对具有较高智能水平的AI持续监管至关重要。对于具身AI（如机器人、无人机），因其物理交互能力，应实施注册和监控机制。非具身AI虽无实体形态，也需通过行为审计、权限管理和定期评估等手段监管，防止AI提供虚假数据或决策等风险。

推动技术创新。“大系统”需要建立起科学的理论与技术，实现对其量化描述、设计、管理和评估。通过模块化、自适应的架构提升其鲁棒性，通过建模非线性行为进而预测演化趋势等。新技术即便无法完全反映“大系统”的复杂性与涌现性，也比被动地应对更有利。

促进全球合作。“大系统”是人类与另一种智慧类型协作并共生的全新挑战，可能会超越以往的技术变革。因此，开展全球合作，建立跨国交流机制，在国际组织中设立对于人工智能建设与监管的相关标准，共享案例、标准、技术与经验等尤为重要。有必要密切关注各种场景中的“大系统”案例，从社会影响、伦理风险等多方面进行评估，确保技术进步不偏离人类利益。

“大系统”不仅是技术融合的产物，更是人类与智能体协同演进的新阶段。未来，如何在推动技术发展的同时保障系统安全、可信、可持续，将成为全球共同课题。

（作者单位：北京航空航天大学）

【参考文献】