走进上海智库｜全球人工智能：创新治理的新变化与新趋势

视频拍摄：胡逸璠、马历川；视频剪辑：胡逸璠(01:19)

人工智能技术飞速发展，AI治理日益迫切。

9月19日下午，由上海市哲学社会科学规划办公室、上海市经济和信息化委员会人工智能发展处指导，澎湃研究所主办的“澎湃下午茶/走进上海智库”系列第三场研讨会在复旦发展研究院举行。来自政企智媒等领域嘉宾以“全球人工智能：创新治理的新变化与新趋势”为题，共同探讨人工智能创新治理的路径与前景。

“澎湃下午茶/走进上海智库”系列第三场研讨会现场。本文图片均由 沙润琪 摄

报告发布：全球AI治理的“中国观察”与“多元视角”

复旦大学副校长、全球人工智能创新治理中心执行主任陈志敏在致辞中指出，人工智能的蓬勃发展正深刻改变社会结构，推动全球治理体系加速演进。复旦大学在各界支持下推动全球人工智能创新治理中心启动运行，该中心将聚焦几个关键领域的工作：一是积极组织参与全球范围内的人工智能治理对话，强化中外人工智能治理研究合作交流；二是推动人工智能普惠包容发展，赋能全球南方国家能力建设，弥合智能鸿沟；三是加强与欧美等全球北方国家的交流合作，凝聚治理共识，助推开放共享和南北合作；四是聚合全球产学研资源，搭建一个惠及上海、中国和全球的共享平台。目前，中心已在前期初步形成一系列成果，未来中心将发布系列报告，组织高端国际研讨会、人才培训等系列活动，为上海和中国在人工智能赋能全球可持续发展领域做出新的贡献。

复旦大学副校长、全球人工智能创新治理中心执行主任陈志敏

全球人工智能创新治理中心研究员、复旦发展研究院副研究员姚旭代表中心项目组发布《全球人工智能治理新趋势——以“上海宣言”为起点的观察》研究报告（以下简称“《报告》”）。《报告》分为两个主要部分。第一部分主要探讨《人工智能全球治理上海宣言》发布一年来全球人工智能治理领域出现的新趋势、新变化，并结合实际情况，提出相应的政策与行动建议。第二部分集中呈现全球十余个国家的专家观点，展现来自全球不同地区、不同领域的专家如何看待人工智能治理的现状与前景的多元声音。

全球人工智能创新治理中心研究员、复旦发展研究院副研究员姚旭

《报告》认为，在联合国框架下强化多方协作是提升人工智能能力建设的重要路径；应协调发达国家与发展中国家的利益诉求、促进公共部门与私营部门的深入合作，形成多元主体共同参与的治理格局；增进各方战略互信，推动人工智能治理规则对接和标准对齐将是未来全球人工智能治理的主要任务；为确保全球人工智能治理体系平等包容，人工智能能力建设普惠各方，应加强全球南方国家间资源共享，团结全球南方在人工智能治理决策中共同发声，进一步强化南北合作。

现状与挑战：AI发展的“全球失衡”与“治理困境”

目前，全球AI发展呈现格局分化与应用局限的现状。从技术与算力分布来看，全球AI发展呈现显著的“结构性不对称”。全球人工智能创新治理中心研究员、复旦大学国际问题研究院教授蔡翠红指出，人工智能正成为全球权力格局重塑的关键变量，全球人工智能治理总体格局呈现出制度化、多中心、多层次的特点，并逐渐形成以中、美、欧为核心支点、其他国家不断跟进的多极互动态势。挑战方面，AI治理伴随着制度化趋势同时出现了多层嵌套和碎片化现象；少数发达国家与科技巨头掌握大部分算力和数据，价值观分歧使各方准则难统一；技术迭代快速，但治理存在滞后。

全球人工智能创新治理中心研究员、复旦大学国际问题研究院教授蔡翠红

从应用层面来看，AI的实际落地效果仍存在较大局限。复旦大学技术创新研究中心主任徐文伟从产业实践出发，探讨了AI落地应用的困境及治理必要性。目前存在的问题在于：第一，对AI期望过高，但目前仍处于弱人工智能阶段；第二，AI霸权和不公平现象值得警惕；第三，AI的可解释性和可靠性存疑；第四，AI的伦理问题值得重视，包括对劳动力的支持以及对企业的规范；第五，亟待制定各行各业使用AI互通互联的标准，使得数据在各行各业之间流通共享。

复旦大学技术创新研究中心主任徐文伟

从治理导向来看，不同主体的差异进一步加剧了全球格局分化。上海社会科学院互联网研究中心主任惠志斌从宏观和战略高度阐释了对于AI治理工作的理解。首先，AI治理是一个动态演进的过程。随着新技术发展，不断涌现出新的治理问题。其次，各国在AI治理理念上也存在博弈。从战略判断来看，中国必须具备足够的制度自信和战略定力，坚持走开放合作之路，在国际舞台上提供更多的AI治理公共产品。再次，AI治理是数字世界的信任议题，中国可以通过技术信任在更广范围内推动互信与共识的形成。

上海社会科学院互联网研究中心主任惠志斌

AI产业的治理与发展之间的平衡问题也日益突出。启元洞见智库高级研究员朱荣生认为，推动人工智能治理产业可成为缓解人工智能商业化盈利不足的机会。上海促进和发展人工智能治理产业既能够提高技术的安全性，又能够创造经济价值，还能够推动中国在国际上塑造出负责任大国的形象。他认为，成立全球人工智能创新治理中心是中国负责任地参与全球治理的重要步骤，不仅有助于推动人工智能全球治理进程，更能够让中国的良好实践走出去，将国际先进发展和治理经验引进来。

启元洞见智库高级研究员朱荣生

治理滞后与风险未知则是技术快速迭代带来的固有挑战。复旦大学计算机科学技术学院教授肖仰华从人工智能发展的本质出发，对治理提出了更深入的思考。肖仰华强调要厘清概念，区分人类社会本身存在的问题以及AI原生带来的治理问题。他认为，这场AI革命与以往工业革命根本不同，AI开始在一定程度上代替人类进行认知和决策，AI革命是认知主体的革命。治理和发展并非简单对立，良好的治理能为技术持续健康创新保驾护航，应提高战略高度，AI治理绝非简单的技术治理，更关系到未来人类文明的发展方向。

复旦大学计算机科学技术学院教授肖仰华

伦理与责任困境则凸显了AI治理的深层矛盾。阿里智能信息事业群公共事务总监陈迪思分享了大型互联网公司在AI安全治理方面的挑战与实践。企业应主动提升模型安全认知与风控能力，落实AI标识保障用户知情权；行业可共享恶意样本等高质量数据集；期待尽快出台多元主体安全责任划分指引，推动行业健康有序发展。

阿里智能信息事业群公共事务总监陈迪思

如何破局：从国际协同到行业携手的“多维解法”

深度参与联合国AI治理框架是中国的重要路径。蔡翠红建议，通过议题分区加软法组合形式，逐步推进共识的形成。对于中国的角色，蔡翠红教授强调应持续发挥价值引领作用，增强技术产业实力提升规则话语权，深化南南合作助力发展中国家共享AI成果，并积极参与中美、中欧多边对话，在求同存异中寻求共识。

构建“客体、主体、规则”的AI管理体系是突破治理瓶颈的关键。上海信投副总裁、库帕思科技董事长山栋明阐述了推进AI治理的三要素，即主体、客体与规则。治理主体方面，过去全球治理中跨国企业曾扮演关键角色，未来塑造AI治理格局的对话主体很大程度上将是AI版跨国公司。治理客体方面，算法、算力等各要素具有动态演进性，需要分级分类分层治理。治理规则方面，应采用“快、专、用”的策略，快速推动、强化专业性、关注规则标准应用。山栋明董事长建议进一步推进开源和降低使用门槛，通过代码、模型、数据等多方面开源，推动边际成本的降低。

上海信投副总裁、库帕思科技董事长山栋明

推动全方位开源与产业协同是提升治理效能的重要支撑。陈迪思介绍，阿里通过夸克构建覆盖全流程的策略、能力与组织体系，打造安全可靠的AI应用：如治理嵌入全链路，以AI治AI提升安全能力，问题驱动安全运营强化实时防控。大模型互动服务模式带来合规主体多元化，自我学习的能力决定了“数据饥渴”的常态化。

上海实践：以“标准引领”与“技术创新”共建人工智能治理高地

上海市人工智能行业协会副秘书长徐琦介绍了上海在人工智能领域的产业发展情况。上海市拥有全栈技术体系，从基础设施、芯片、算力集群到基础模型、应用场景一应俱全，这为全面推进治理打下基础。在此背景下，应充分发挥人工智能行业协会在链接与赋能产业生态方面的关键作用，推动人工智能产业的发展。

上海市人工智能行业协会副秘书长徐琦

打造国际化的高品质平台是上海的重要抓手。徐琦建议，一是人工智能伦理治理离不开技术、生态、产业各方面的创新、产品化和商业化。二是标准非常重要，企业应小步快跑，推动技术的底层创新与外部合作。三是建议设立AI出海实践基地，为国内大模型及人工智能相关产品的应用与服务拓展海外市场提供全方位支持。四是建议立足上海向国际推动人工智能开源与普惠产品的出海，为全球南方国家做良好的基础设施、模型等多方面的赋能，通过国际场景的开放共建，与全球南方国家深化合作。

在嘉宾发言环节结束后，上海市哲学社会科学规划办公室主任李安方对研讨会总结点评。他指出，本次研讨会实现了政、产、学、研各界的思想交融与智慧碰撞，充分彰显了跨界融合在应对人工智能治理挑战中的关键作用。他强调，人工智能不仅是全球产业发展的核心方向，也关乎中美长期竞争格局与我国国家战略布局。上海正积极融入这一进程，主动作为，已搭建包括“全球人工智能创新治理中心”在内的多个重要平台，并初步展现出其在统筹协调与引领发展方面的积极作用。

上海市哲学与社会科学规划办公室主任李安方

复旦发展研究院执行院长张怡代表主办方感谢各位参会嘉宾的支持。她指出，当前人工智能在治理层面仍存在一定程度的割裂，缺乏整体协同。未来应在更大系统的支撑下，推动学界、业界等多方主体深度联动，形成合力。人工智能发展的美好愿景应该是在全球治理进程中凝聚共识、面向未来、推动共生、实现融合。

复旦发展研究院执行院长张怡

本次下午茶由澎湃新闻副总裁、澎湃研究所所长张俊主持。他表示，从“智能”到“智慧”任重道远，AI治理需要兼顾发展与安全、开放与自主、创新与规范。此次复旦大学全球人工智能创新治理中心发布的报告，正是中国学界深度参与全球AI治理的重要研究成果，填补了国内在该领域综合性、国际化研究的部分空白。他建议各方保持对话，将AI打造成为“我”所用、为“人”所用的重要载体。

澎湃新闻副总裁、澎湃研究所所长张俊

澎湃研究所为澎湃新闻旗下城市智库，致力于构建全球城市协作网络。“澎湃下午茶”，始于2019年8月，坚持“看上海，聊决策”，努力搭建政商学界沟通平台。

与会政商学嘉宾合影。