“养龙虾”热潮下，我们该如何理解代理式AI？

中国网讯（王雨菲）你“养龙虾”了吗？这句近期在科技圈频繁出现的流行语，折射出大众对人工智能领域新趋势的好奇与关注。今年，“智能经济”首次在政府工作报告中被提出。2025年我国人工智能核心产业的规模已经超过1.2万亿元，企业的数量超过6200家，工业互联网与AI融合加速，无人车、自动驾驶等应用场景走向实用。如今，人工智能发展到了哪一步？我们又该如何与这个智能时代共处？3月24日，中国科学院科技战略咨询研究院院长、中国科学院大学公共政策与管理学院院长潘教峰在中国国际经济交流中心“经济每月谈”中就人工智能赋能本质与前沿进行了深度解读。

人工智能赋能的本质是什么？

潘教峰提出，其本质就是“整合”。人工智能依托多元的数据整合，以及人工智能所提供的五大能力——关联识别能力、因果推理能力、矛盾发现能力、收敛逼近能力、突变涌现能力来提炼规律和逻辑，实现对知识的抽象、推理、创新，即知识的整合，进而利用人工智能从单点技术到系统工程，在虚拟世界中构建物理世界的映射与操控体系，从而形成一个系统整合。

人工智能的“突变涌现能力”

在人工智能这五大能力中，突变涌现能力是AI中最神秘、最引人深思的部分。所谓突变涌现能，是指通过系统内部结构重组，自发出现超越组成部分功能的全新能力，实现“量变”到“质变”的突破式涌现。潘教峰举了AlphaGo的例子，2016年AlphaGo在与韩国围棋棋手李世石围棋对决的布局阶段，放弃了“外四路行棋”的千年定式，将棋子置于第五路，这一策略并非人类传授，完全是Al在博弈空间中的自发“突变式发现”，奠定了AlphaGo的胜局。

当然，这种涌现的生成也有一定的条件。潘教峰认为，环境或任务的复杂性是涌现的必要条件。简单游戏中，AI只会涌现出穷举策略；只有在围棋、星际争霸这类具有极高复杂度的环境中，才可能涌现出超越人类的宏观策略。突变性表明，当复杂度达到临界点时，智能可以作为一种自然现象，从简单的计算规则中“涌现”出来，这挑战了我们对生命、意识和创造力的传统理解。由此可见，AI作为“协同作者”的科学时代已经来临，并且未来我们会看到人机协作共创的新范式。

那AI会如何与人类协作呢？人机分工尤为重要。对此，潘教峰指出AI作为“灵感”伙伴，人类负责提出宏观方向，AI负责在微观层面进行海量探索和突变，再将涌现的结果交予人类甄别和升华。与此同时，AI会破解“人类盲维”，因为AI可能发现我们因认知局限而永远无法想到的解决方案，特别是在高维数学、基础物理等领域。

由GenAI迈向Agentic AI

当前，人工智能正处于什么发展阶段？潘教峰总结了人工智能发展的四代浪潮：从计算智能到感知智能，再到认知智能，最终走向自主智能。我们已经从早期的生成式AI(GenAI)逐步迈向了更加智能、自主的代理式AI(Agentic AI)时代。如今兴起的“养龙虾”就是代理式AI的初步形态——用复杂的推理和迭代规划来自主解决复杂的多步骤问题。所以，代理式人工智能时代即将到来，预计到2028年，15%的日常工作决策会由代理式人工智能完成，而这一比例在2024年几乎为0，所以未来的发展速度将会非常快。

代理式 AI专注于决策而不是创建实际的新内容，不完全依赖于人类提示，可进行自主性决策，实现一个决策闭环。通过感知、理性、执行和学习，实现数据整合、知识整合、系统整合的贯通，打通“感知－推理－执行－学习”闭环，由自动化工具升级为自主系统。

潘教峰列举了几个典型案例，在自动驾驶领域，代理式AI体系结构用于实时导航与决策，感知组件从传感器收集数据，认知组件处理这些数据来做出决策；在医疗健康领域，它可分析医疗数据、协助诊断、推荐治疗，甚至实时监测患者的健康，与电子健康记录集成，并利用医学成像，基因组学和可穿戴设备数据来提供全面的医疗保障解决方案。

主要挑战及未来路径

潘教峰认为，未来主要面临三大挑战：一是透明性和可解释性，代理式AI决策过程难以解释，在高风险领域（如医疗、金融、司法）AI决策过程不透明，可能引发信任问题和法律争议；二是安全性与防御，自动化系统越复杂，系统性风险攻击面扩大，加之外部环境和系统实时反馈不断变化，容易由静态风险转向动态风险；三是伦理问题，例如在医疗和司法领域，AI是否应该做出关键决策，以及如何评判决策是否公平。

科技作为第一生产力，是推动经济社会发展的核心引擎。面对上述挑战，我们需要回归底层思维和基础学科的建设。最后，潘教峰认为想要把握人工智能发展的浪潮，必须重视基础科学的研究，脑科学、逻辑学、控制科学、数学等底层学科的发展支撑至关重要。中国有机会在这一轮人工智能兴起之际把握机遇，引领世界发展的潮流，并为人类文明进步做出巨大贡献。