为何需要AI治理？上海交大贾开问数湾区开讲AI新治理体系

问数湾区

人工智能需要新的治理体系吗？在12月24日问数湾区第23期系列活动上，上海交通大学国际与公共事务学院长聘副教授贾开围绕“人工智能治理的变与不变”进行主题分享。在其看来，人工智能发展或应用所需要依赖的公共产品越来越少，可能影响到其未来的可持续发展，而当前人工智能正在走近新的“十字路口”，AI被生产的过程、结构成为人工智能治理更需要关注的重点方向或者命题。

12月24日，上海交通大学国际与公共事务学院长聘副教授贾开在问数湾区第23期系列活动上进行主题分享。

人工智能存在技术局限因此需要治理

“问数湾区”是由中山大学国家治理研究院数字治理研究中心、数文明科技、南方都市报联合推出的系列活动，旨在通过讲座、圆桌讨论、论坛等形式推动湾区的实践者和研究者们进行交流，追踪湾区数字治理发展的新动态，探寻湾区数字治理创新与提升的路径和方向。

在12月24日主题分享中，贾开阐述了人工智能治理的“变”与“不变”，分享其在数字经济及其治理、新兴技术及其治理变革等方面的研究。贾开首先介绍人工智能治理的历史演化过程及其现状。2016年以来，人工智能治理被视为经历了两个阶段发展历程：第一阶段主要是关注宽泛性的伦理原则，体现为强制性法律规范之外的理念、宣言、协议、自愿承诺与政策建议等；第二阶段以2023年各主权国家的积极行动为标志，正在形成一系列具有约束力的治理制度，体现为人工智能风险分级分类管理、风险评估标准与体系、风险规制的底线要求、风险治理的跨部门协作机制以及安全风险管理等。

为什么当前如此关注人工智能治理？人工智能治理与传统技术治理有何不同？人工智能治理，关心的真正问题是什么？贾开表示，人工智能治理是技术治理的一个部分，关心技术治理当然是因为有技术的局限性，而技术的局限可能引发包括责任风险在内的一系列风险。尽管当前对人工智能有很多美好的想象，但回到人工智能技术基本逻辑，理解人工智能技术的进步与局限，是理解人工智能治理的关键前提。

在贾开看来，实现人工智能有不同的技术路线，主要体现为两种。一是符号主义，就是人类社会对符号的组合与处理，关键瓶颈是形成关于世界运行的概念和规则，以及把概念和规则表现为计算机语言的逻辑表达；二是联结主义，关键瓶颈是通用算法和训练数据。这些瓶颈的突破代表着人工智能技术的进步，但这些瓶颈并不能被完全克服，所以其技术永远也都存在局限。面临这些局限，自然需要人工智能治理来进行管理并预防风险。

人工智能正走近新“十字路口”

但是，人工智能治理仅仅因为技术的局限性吗？除了技术局限性还要关注哪些？贾开提到，如果只是技术的局限性，问题就没那么复杂，可以实现渐进式发展，每个时代颠覆性技术的出现都有一个完善过程，包括技术的完善、治理制度体系的完善。但人工智能的关键问题在于除了技术局限，还需要关心技术生产本身，即人工智能被生产出来的主体、过程、结构等问题。

以开源大模型治理为例，就是一个典型的人工智能生产问题，不同人对此存在不同观点。有的专家反对开源大模型，因为大模型能力太强，容易被误用滥用并引发社会风险；有的则支持，认为没有充分理由说明开源一个能力强大但价值未对齐的人工智能是不安全的，凭空想象AI的安全风险是无意义的。但安全与否或许不是开源大模型治理的核心矛盾，开源能否作为普及AI、使AI普惠千行百业、服务公共利益提升的关键渠道，或许才是问题的关键。

人工智能治理当前的涌现背景是全球数字治理体系本身正在发生重要变革。互联网、数字税、数据跨境流动等诸多数字现象正在成为全球治理的关注对象，我们现在面对的是一个要求重塑治理体系的数字化转型阶段。在贾开看来，人工智能也不例外，以大模型为代表的人工智能发展路线正在走近新的“十字路口”。一方面，以“2023年好莱坞大罢工”为代表案例，人工智能的负面影响正在不断显现。另一方面，以人工智能浪潮下的围棋为例，人工智能又体现出改变结构、赋能人的积极作用。2016年AlphaGo战胜李世石时，很多人以为围棋作为一个行业已经没有希望了。但事实上，围棋反而变得更兴旺，一是因为围棋突破了很多传统定式，极大拓展了围棋知识领域；二是AI改变了围棋的行业结构，普通人也能够获得很好的围棋训练并挑战棋王。正是这种结构性变化，才是我们更应该关注的。

在主题分享最后，中山大学政治与公共事务管理学院副教授、数字治理研究中心主任郑跃平与贾开围绕“政府部门作为人工智能或者算法治理重要主体，究竟能发挥什么作用，如何做好引导？”“政府治理能力包括什么，如何构建？”等进行探讨。贾开认为政府部门现在可能最缺的是制度的想象力或者制度包容性，很多制度要突破原有思路，但这不代表另起炉灶，而是说需要多重制度相互配合。

出品：南都大数据研究院

采写：南都记者 袁炯贤（受访者供图）