当超级智能不再只是科幻想象，我们可以提前做些什么

随着人工智能技术的飞速发展，通用人工智能（AGI）乃至超级智能（ASI）已不再仅仅是科幻想象，正逐渐成为需要严肃面对的现实议题。在日前举行的上海论坛分论坛“超级智能机器、技术想象与人类未来”上《超级智能：少数派报告》对外发布，提出应将超级智能视为一个日益迫近的现实问题，而非仅仅停留在科幻想象或生存焦虑的建构层面。

该报告由复旦大学科技伦理与人类未来研究院杨庆峰教授领衔，来自中山大学、苏州大学、上海社会科学院、复旦大学等成员组成的团队参与了撰写。报告由复旦大学杨庆峰、中国人民大学刘永谋与上海交通大学闫宏秀等三位教授联合发布。

报告认为，AI的未来发展极大可能导向超级智能，其现实性是从科学路径表现出来的。目前存在三种实现路径，分别是通用智能、具身智能和交互智能。

通用智能，即聚焦通用人工智能（AGI）研究，不同于弱人工智能擅长执行特定任务而不具备决策与行动力，具备同等人类的能力，能够理解、学习和应用知识，处理复杂的任务，适应新环境，以及在各种广泛的任务中表现出至少与人类相当的能力。

具身智能探讨了人工智能应该具备何种身体形态以完成特定任务。通过物理身体与环境的直接交互，强化了智能体与实际世界的紧密联系，从而获取信息，理解问题，做出决策，并执行相应的行动。这种基于环境交互的信息处理和决策制定过程，使得智能体能够展现出智能行为和适应性。

交互智能，也称为社会化人工智能，智能体通过持续与人在现实社会环境中交互来学习，意味着智能体不仅需要收集数据来学习新的概念，还需要学习如何与人交互以收集数据。这些智能体能够通过自然语言进行交互，理解和学习图像，从而在大型图像分享社交网络中提升其视觉智能。

报告提出，超级智能并不是孤立存在的，而是在与环境的持续互动中完成自身的进化，这种进化不仅包括技术层面的改进，也包括在社会、文化和伦理等方面的学习和适应。这种进化过程是无法脱离人类社会的。而在超级智能与人类交互的过程中，在技术、政策和伦理等不同维度上都存在着其发展所带来的潜在风险。

面对超级智能可能的风险，报告从技术、哲学和伦理三个维度提出了应对的综合方案。技术层面，报告讨论了价值对齐、模型崩溃、模型蒸馏及科学家AI等应对策略；哲学层面，探讨了存在的升级、风险控制及以人为目的等应对思路；伦理层面，在反思美德伦理、责任伦理和设计伦理的基础上，创新性地提出了将“智能契约伦理”作为处理未来人类与超级智能关系的新伦理框架。

复旦大学科技伦理与人类未来研究研究院致力于深入开展包括全球健康伦理、数字与人工智能伦理等在内的应用伦理相关的基础理论和战略对策研究，力争构建中国特色科技伦理学术体系和话语体系，在关乎人类未来的全球性问题的探索中发出中国声音。