专家观点 | 陈钟：人工智能——负责任的创新与治理

观点

2024年7月10日，中关村金融科技产业发展联盟联席理事长兼人才专委会主任，北京大学计算机学院教授，元宇宙技术研究所所长陈钟出席了“2024中关村论坛系列活动——数字金融与金融安全大会”，并发表题为《人工智能——负责任的创新与治理》的演讲。陈钟教授在其论述中，对人工智能的三个核心进展进行了深入的剖析。他明确指出，互联网的发明形成了大连接、积累了大数据，随着人工神经网络算法和算力的不断进化，人类通过数据驱动的大规模人工神经网络的预训练计算形成了基础大模型，从而让计算机从以人工编程为特征的“信息处理“模式跃升到以自主学习为特征的“知识处理”模式。人工智能的这一进展使得信息化从数字化、网络化正式进入了智能化的新高度。陈教授进一步强调了从单纯的信息处理向更为复杂的知识处理转变的趋势，并详细讨论了人工智能在各领域中的广泛应用及其所带来的显著进步。同时，陈钟教授并未忽视人工智能发展过程中所面临的伦理、法律以及社会影响等关键问题。他特别强调了在隐私和数据保护方面的挑战，并对此进行了深入的分析。此外，他还对国际上关于AI治理的多种实践及所面临的挑战进行了概述，再次凸显了技术进步在实现负责任的创新与治理过程中的核心地位。

中关村金融科技产业发展联盟联席理事长兼人才专委会主任，北京大学计算机学院教授，元宇宙技术研究所所长 陈钟

*发言内容 （以下内容根据现场速记整理）

陈钟教授针对人工智能技术的演进特性、知识处理能力、生成式人工智能的显著进步以及AI助力科学研究(AI forScience)所带来的发展，进行了深入的探讨。他明确指出，人工智能的革新发展成果并非单一技术的突破，而是多项科技创新的综合体现。特别值得一提的是，互联网的诞生极大地促进了信息的互联互通，形成了广泛的大连接，同时积累了海量的大数据。当人工神经网络算法与计算能力逐步成熟时，这些大数据被高效地转化为大智能。陈教授进一步强调，没有先前大连接和大数据的坚实基础，今日人工智能的辉煌成就将无从谈起。

陈钟教授指出，深度学习神经网络算法的成熟显著提升了计算机从单纯的信息处理向更为高级的知识处理能力的转变。基础大模型作为计算机知识处理训练达到一定水平的体现，为知识处理提供了坚实的基础。生成式人工智能在图片、文字、视频等领域实现了显著进步，这一技术通过模拟神经网络的工作机制，有效融合了知识、记忆与推理等多种要素，从而形成了所谓的“硅基生命”。

陈教授认为，AIforScience将会为人类带来更大的进步，尤其是在制药、医疗、材料，甚至数学、物理等领域。从判别模型到生成模型的变迁，是今天人工智能取得巨大成功的一个重要特征。然而，无论是判别模型还是生成模型，都带来了与传统安全挑战不同的问题，尤其是在可用性、完整性和隐私保护方面。除了安全挑战，生成式人工智能还面临着滥用问题。

在面对当前所遭遇的诸多挑战时，陈钟教授郑重强调了负责任地推进创新与治理的紧迫性。他特别指出，国际间的案例及政策制定的经验，为我们提供了极富价值的参考。以苹果公司为例，其将人工智能转化为Apple Intelligence，这不仅是对技术创新的积极探索，更是对大模型设计与应用模式的独到见解。此外，微软公司通过投资OpenAI，提供了全面的服务，这些成功案例所展现的合作模式，值得我们深入研究和借鉴。

陈教授在论述中特别提及了美国政府在AI治理领域的前瞻性努力。具体表现在，美国政府在2016年和2019年所制定的战略规划中，已对目前我们所面临的一系列挑战进行了预见，并针对人工智能的伦理道德、法律框架、社会影响以及安全可靠性等方面，展开了切实有效的工作。他进一步强调，负责任的治理是与技术发展的步伐相一致的，二者并行不悖。

陈钟教授在总结时，着重强调了立法监管和治理在人工智能领域的演进。从阿西莫夫的机器人三定律，到阿西洛马的人工智能23条原则，再到谷歌的研发战略，这些均彰显了人类在治理层面上的理性思考与推动。特别是，在2024年3月，欧盟人工智能法案的批准以及联合国大会一致通过的决议，均为全球人工智能治理问题确立了明确的规范框架。陈教授对这些原则的确立表示高度赞赏，并指出其涵盖了缩小国家之间和国内存在的人工智能鸿沟以及其他数字鸿沟，保护隐私个人数据，以及促进公平享受人工智能所带来的惠益等重要方面。

陈钟教授的演讲严谨地阐述了人工智能负责任创新与治理的至关重要性，深入剖析了人工智能技术发展的核心特征及其面临的挑战，同时，他以理性而稳重的态度，提出了对未来人工智能发展趋势的独到见解。

2024香港金融科技周参展申请已开启！

2024中关村“番钛客”金融科技国际创新大赛火热报名中！