2024年人工智能十大前沿技术趋势展望

10月23日，在2024年世界科技与发展论坛主题会议“人工智能治理创新为培育科技治理生态构建国际信任基础（Intelligence）”上，世界机器人合作组织理事长、中国科学院院士乔红现场发布了《2024年人工智能十大前沿技术趋势展望》。

乔红，世界机器人合作组织理事长、中国科学院院士。

2024年人工智能十大前沿技术趋势展望

乔红

大家好！非常荣幸能够与大家共同探讨人工智能领域的前沿技术趋势。人工智能作为当今科技革命的重要驱动力，正以前所未有的速度改变着我们的生活和工作方式。从智能制造到智慧城市，从医疗健康到金融服务，人工智能的应用无处不在，其影响力深远而广泛。然而，我们也面临着新的挑战和机遇。如何把握人工智能的发展方向，如何推动技术创新与产业升级，如何确保人工智能技术的可持续发展，这些问题都需要我们深入思考和探讨。今天，我将与大家分享我对人工智能十大前沿技术趋势的展望，希望能够引发大家的思考和讨论，共同推动人工智能技术的发展和应用。

01

AI共性技术

（1）小数据与优质数据的崛起

Small and High Value Datasets

研究以数据为中心的AI系统，其核心在于构建AI系统所需的数据。当今时代大数据的重要性已经不言而喻。然而大量无效数据的存在，不仅消耗了大量计算资源，也对模型可靠训练带来极大的挑战。在此背景下，小数据和优质数据的价值越来越重要。小数据更注重数据的精度和相关性，优质数据则通过严格的筛选、清洗和标注工具剔除了噪声和不相关信息，从本质上减少人工智能算法对数据的依赖和不确定性，增强网络可靠性。建设多样性的数据集不仅能够从理论基础上支撑不同技术路线的AI发展，还为解决通用人工智能的瓶颈问题提供新的可能。

（2）人机对齐：构建可信赖的AI系统

AI Alignment

除了输入的训练数据集质量，AI系统的可靠性还体现在输出结果的可执行性上。只有AI的输出结果与人类价值观相符，才能确保AI模型的能力和行为与人类意图保持一致。仅依靠数据和算法并不足以实现人机对齐，需要将人类的价值观和伦理道德转化为强化学习奖励函数。这意味着在设计奖励机制时，不仅要考虑任务的效率、效益和效果，还需要考虑行为是否符合人类的伦理标准。例如，在设计一个自动驾驶系统的奖励函数时，除了行驶速度和安全性，还应加入对交通规则的遵守、对行人和其他车辆的礼让等伦理因素的权重，从而引导模型学习到更加符合人类期望的行为。

（3）AI宪法：确保合规性与安全性

Constitutional AI

当前AI系统的合规性、安全性和伦理问题愈发突出，建立一个类似宪法上位法的AI监督模型框架尤为必要。其主要目的是通过制定明确的标准和规范，确保所有AI系统在开发和使用过程中遵循既定的原则，从而减少AI在制度没有确定的情况下被过度使用所带来的风险。例如，在设计阶段，必须考虑系统在对人的监控、对价值观的引导，以及在军事领域的过度使用等方面可能带来的社会影响；在训练阶段，所使用的数据和算法须确保不会侵犯用户隐私或造成不公平的结果；在部署阶段，还需要持续监控AI系统运行状态，及时发现并修复任何潜在的风险和漏洞。

（4）可解释性模型：让AI更透明可信

XAI

解释性方法旨在让AI模型的决策过程和结果可被形式化描述，以便人类能够理解、评估、监督和干预模型的行为，实现算法可靠性和有效性的平衡。在保障有效性的前提下，提高可解释性，有助于减少对公共资源的消耗，增强用户对AI系统的信任度，并促进其在关键领域的应用。例如在医疗健康领域，一个具有高可解释性的AI诊断系统能够让医生更容易理解其判断依据，减少不必要的检查和治疗程序；在金融服务领域，可解释的AI模型可以更清晰地给出其风险评估和投资策略，降低风险。增强AI系统的可解释性还有助于在出现问题时进行调试和修正，确保系统的持续改进和优化。

02

大规模预训练模型

（5）规模定律下的预训练模型革新

Scaling Law

基于海量参数和训练数据的大规模预训练模型能够有效提高人机交互和推理能力，增强可完成任务的多样性和丰富性。目前Scaling Law依然有效，这种规模效应不仅体现在语言模型上，也在图像处理、语音识别等多个领域中得到了验证。一方面参数量与数据量增长为模型提供了更为丰富的训练素材，使其能够捕捉到更为细致和多样的特征，不断提升了模型的表达能力和泛化能力。另一方面算法创新也将开创新的scaling范式，例如GPT-o1引入了思维链协议和自洽性思维链等多项创新技术，更关注推理时间和参数规模两条曲线的协同作用，将复杂问题拆解为简单的步骤，代表了推理scaling的新范式。

（6）全模态大模型：打破数据壁垒

Omni Multimodal Model

多模态大模型可处理和理解文本、图片、音频、数据表格等多种类型的数据输入，并根据任务需求生成多种类型的输出。这种模型通过跨模态转换实现不同类型数据之间的理解和互动，从而打破了单一模态的限制。进一步引入传感器、雷达以及3D点云等机器人视角的更多数据模态，并建立全模态多任务统一学习框架，就建立了全模态大模型。例如引入通常用于捕捉三维空间信息的3D点云数据模态，对于机器人的导航和避障尤其重要。模型的全模态迁移能力可在不同任务间共享知识，提高泛化能力和适应性，甚至突破感知、认知和决策的交互屏障，从而涌现更多新的能力。

（7）AI驱动科学研究的新纪元

AI for Science

使用大模型、生成式技术等来增强和加速科学研究中的提出假说、试验设计、数据分析等阶段的效率，提高研究效率和准确性。科学家们可以利用AI技术进行实时的试验监测和调整，快速反馈试验结果，动态优化试验设计和假设。AI for Science技术还推动了科学进步和研究范式升级，牵引传统的线性研究范式向更加快速迭代和自适应的方向发展。例如在机器人结构设计中，AI模型能够模拟不同任务和环境需求下机器人的运动控制特性，从而协助用户快速生成最合理的构型方案。这种灵活且高效的研究方式，大大提升了发现新科学规律的可能性，从而加速科学研究的进程。

03

具身智能

（8）具身小脑模型：赋予机器人实时反应能力

EmbodiedGPT

传统大模型可以协助机器人处理决策、任务拆解和常识理解等慢通道反应任务，但不适合做强实时性和高稳定性的机器人规划与控制快通道反应任务。具身智能小脑模型作为机器人运动的重要调节中枢，通过多模型投票等集成学习方法，结合机器人本体结构与环境特性选择合理的模型控制算法，确保机器人在理解自身本体约束的前提下，完成高动态、高频、鲁棒的规划控制动作，以增强其应对不确定性和突发状况的能力。其核心在于解决软件算法与物理空间结合的问题，以及单体高性能和能力通用性之间的矛盾，从而使智能机器人系统更加满足现实世界的精细操作与实时控制需求。

（9）实体人工智能系统：智慧赋能物理世界

Physical AI System

实体人工智能系统是将具身智能赋能于物理世界中的实体对象，其核心理念是赋予物理实体以智能，使其能够自主感知环境、做出决策并执行相应任务。例如智能家居中的扫地机器人不仅能够通过识别房间的布局和家具的位置实现动态规划清扫路径，还可以记住敏感物品的存放位置和主人的作息习惯，从而使传统设备能够突破其原有的功能限制，实现更高水平的智能化操作。人形机器人是实体人工智能系统的终极表现形态，它不仅具备多模态感知和理解能力，能够与人类自然互动，还可以在复杂环境中自主决策和行动，并有望在未来应用到更多复杂的工作场景中。

04

生成式人工智能

（10）世界模拟器：创造无限可能的数字世界

World Simulator

通过综合考虑数据质量、多样性、模型训练策略和正则化技巧，生成模型在未见数据上的泛化能力得以不断提高，结合数字交互引擎提供沉浸式的高仿真体验，为使用者带来更加丰富和多样化的游戏世界，应用于教育、娱乐等领域，还可创造更多超级数字场景，例如通过生成模型创建虚拟实验室，学生可以在无风险的环境下进行科学实验，还能根据用户的喜好和行为习惯，自动生成个性化的游戏内容，从而提供更加个性化和互动性强的体验。在机器人领域，这种技术还可用于构建大规模、标准化的多模态机器人行为数据集，提高机器人本体设计、仿真训练和算法迁移的能力。

以上就是今天分享的人工智能十大前沿技术趋势展望。总的来说，人工智能的发展正以前所未有的速度推进着科技的进步和社会的变革。我们可以看到，无论是AI共性技术、大规模预训练模型、具身智能还是生成式人工智能等前沿领域，都充满了无限的可能和潜力。这些技术的发展不仅将为我们带来更加便捷、高效的生活方式，还将推动各行各业的创新和发展。让我们共同期待这个充满机遇和挑战的未来吧！

谢谢大家！

来源：中国科协之声

责编：叶　扬

美编：郑娜莉

一审：何百岳

二审：方佳佳

三审：周振军