AI全球治理的机遇与挑战

来源：环球时报

【环球时报报道 记者 马俊】人工智能（AI）飞速发展带来的影响，已远远超出常规技术领域，对人类社会和全球政治格局都带来了巨大冲击。该如何看待AI时代的机遇与挑战？环球时报研究院联合科普中国智库，日前举办“环球前沿科技论坛·人工智能”专题研讨会。本次研讨会邀请国内多领域权威专家以“赋能全球南方，中国人工智能的经验与机遇”为主题对AI技术发展面临的机遇与挑战，以及如何赋能全球南方国家的发展等议题进行了深入讨论。

大模型潮流带来的“3+2”挑战

目前谈到AI绕不开大模型，谈到大模型则绕不开OpenAI引领的技术突破。在全球火爆的大模型潮流面前，又有哪些值得注意的挑战呢？

中国国家创新与发展战略研究会副会长、中国科学院大学教授吕本富表示，OpenAI引领的大模型潮流带来的风险是“3+2”，即3个内部性挑战、两个外部性挑战。其中内部性挑战首先是大模型可能加大了社会偏见。很多研究都发现，由于训练材料的选择不当，AI反而加深了对少数族裔的种族歧视。其次是所谓的机器幻觉，也就是AI“一本正经地瞎说”。第三个是更重要的本质问题：未来AI水平超过人类怎么办？这就是所谓“超级对齐”问题。其中第三个挑战是公众最害怕的，因为各种科幻电影早就有过预警：在AI超过人类后，可能存在人类变成AI附属品的风险。

除了三个内部性挑战以外，AI还有两个外部性挑战，即产生的社会影响。首先是AI可能加剧了贫困和就业压力。研究显示，AI技术是有史以来第一次出现技术进步产生的岗位少于消失岗位的情况。其次是所谓“伪造问题”，如今AI技术已被用于伪造文本、伪造图像以及更危险的伪造场景，它们给社会秩序带来很大挑战，未来对于AI造假的识别和治理将耗费很大人力物力。

中国科学院计算技术研究所研究员张云泉认为，大模型对生产力带来革命性变化，和历次的技术革命不一样。“以往的技术革命只是换掉了人的工具，例如把过去的驾马车换成了现在的开汽车或者开飞机，而大模型带来的技术革命是把人换掉了，这是最可怕的。”张云泉还表示，AI技术革命带来的直接结果之一是富人更加富了，只要机器、电力和算力就可以开展生产、挣钱，会让财富进一步集中在富人手里，因此如何对于AI技术进步带来的财富分配问题进行调整非常重要。此外，AI技术进步还可能导致产业人口红利价值的消失，发达国家可能不需要用全球南方国家的劳动力来降低生产成本，用AI驱动的机器生产可能更便宜，生产效率更高，发达国家和发展中国家之间的产业转移也将减少。

北京邮电大学人机交互与认知工程实验室主任刘伟表示，当前大模型带来的技术挑战之一是机器幻觉，它本质上是源于神经网络的两个函数，从原理上注定机器幻觉的问题无法消除。“我反对只告诉公众大模型多么厉害，不说大模型的缺点是什么、存在的危险是什么。五角大楼就三令五申地强调，将大模型用在军事领域需要进行严格审查，他们知道其中的危险和缺点，可能会造成不可挽回的损失。”

中国电信首席科学家毕奇以自动驾驶为例说，现在大模型最关键的技术是基于统计概率，原理上是针对统计的大概率事件做出判断。但无论是开飞机还是开汽车时，都有可能遭遇小概率事件，这就导致基于大模式驱动的自动驾驶技术遇到小概率事件时可能会出现问题，这个问题怎么解决现在还需要大量探索，如果不周全，可能会对自动驾驶技术的未来应用产生比较大的影响。

AI很可能导致空前的数字鸿沟

目前各界都承认AI技术对于提高社会生产力的革命性推动作用，但当前大数据驱动的AI技术存在技术要求高、整体投入大的特征，很可能成为大多数国家都跨不过去的数字鸿沟。

清华大学国际关系学系教授、中美关系研究中心主任陈琪表示，“在工业革命竞争时代确实存在特殊条件下的后发优势少数案例，即先发国家进行技术和产业探索实践，后发国家借鉴先发国家的成功经验，后发国家甚至可直接抄作业而不需要付出巨大的探索成本，因而具有了某种后发优势，少走冤枉路。但在知识、资本和技术密集的数字经济时代，尤其是具有颠覆性创新的AI技术出现后，我觉得可能会出现当今世界绝大多数国家都无法跨过去的数字鸿沟，即凭借AI的技术垄断来获得经济发展的资源垄断性攫取，历史性地锁定发展不均衡的局面，后发国家面临被收割治理主权和丧失未来发展动能的巨大风险。”在AI领域，这种隐然风险和深刻担忧不单单适用于西方对全球南方的压榨，美国的欧洲盟友以及澳大利亚、新西兰、日本几乎都存在类似困境。“欧洲持续出台AI治理的法律法规，其实也有保护自身不被美国收割的政策考虑。”

一名与会专家表示，对于很多全球南方国家来说，想要发展AI技术的基本条件都没有。例如非洲国家近一半都没有本国的数据中心，相关数据要存在国外。他表示，当发展大数据驱动的AI技术时，如果连大数据都不掌握在自己国家手里，而是存放在别国领土，“其实就成为数据意义上的殖民地”。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括认为，科技巨头和富裕国家在AI领域的垄断局面，“某种意义上基本已经形成了，而且很难在整体上扭转”。他表示，客观地说，整个当代AI技术在理念构想和供应链产业链层面，美国依然具有突出的优势。此外，从业者很清楚，现在AI技术发展到现在的态势，跟全球开源社区环境有很大的关系。“如果美国突然加大对于开源环境的干预力度，对其他国家会带来很大的冲击，这是一个需要及早研判的重大问题。”

不过与会专家提到，AI被集中掌握在部分发达国家手里也存在特殊的风险。例如某个国家或组织无法研发足够先进的算法，但可以通过对训练数据“投毒”，起到破坏AI的效果。因此当前AI发展的不对称局面也是风险的来源之一，可能在极端情况下引起进一步的不稳定，这是值得关注的问题。

吕本富表示，AI技术的发展的确带来了前所未有的安全问题。一个国家以前有地理边界，现在还有思想边界。“AI大模型把国家的思想边界打穿了。原来不同的文明会有各自的神明，但现在不同国家和地区的民众向大模型提问时，回答的数据来源都掌握在同样的机构手里。”此外AI技术的发展还可能突破国家的能力边界。AI控制的机器人能在真实的物理环境下执行各种任务，但如果AI被控制在少数西方国家手里，那么在未来需要时，可能会出现利用AI远程控制他国汽车实施有组织暴力冲撞等行动。因此在当代AI技术面前，一个国家需要同时守住地理边界、思想边界和能力边界这三个边界，才能真正确保自身安全，但能做到这几点的国家太少了。

应对AI全新挑战成重大课题

张云泉表示，从趋势上看，当代AI技术存在主权属性，并不是无国界的，“虽然看着美国提供开源环境，其他国家可以自由访问，但是未来一旦实现完全垄断之后，还有没有可能给你公平的开放环境？有没有可能利用其优势对你产生不好的影响，包括让你对美国的AI技术产生依赖性后，影响你整个社会的价值观、文化、历史、舆情、科技发展？”他认为，无论是中东黎巴嫩的寻呼机爆炸事件，还是最近中国网络空间安全协会点名英特尔公司CPU存在的漏洞问题，都表明这样的担忧并非杞人忧天。

因此张云泉提出，中国有必要在发展AI时推动建设“主权级大模型”，它是一个国家AI水平的最高点、基础大模型的基础，也可以被形容为“根模型”。“主权级大模型”将深刻影响一个国家的科技竞争力，涉及军事、经济、政治等多方面能力。因此相关技术的全链条，包括大数据、技术人员、运营等要素需要全部实现国产可控。“这个模型是国家的重大基础设施，因为消耗的电力非常庞大，需要放到能源富集的地方。”他还建议说，在“主权级大模型”建设完成后，中国可以向国外提供相关服务。“可以为发展中国家或者没有能力研制本国主权大模型的国家和地区提供定制化服务，保证他们的安全，这也是中国可以为全球南方做的贡献。”

毕奇表示，美国在发展AI时，试图借助禁止出口高性能芯片等限制算力的方法，保持其在这个方向的优势，这是一个零和游戏的思维。其实两个国家在AI的产业链方面，有极强的互补关系和很大的共赢空间。“如果中国只是被动地赶紧去发展国产算力，我觉得从《孙子兵法》的商业策略角度来讲，是一个不太好的方法，因为不需要在别人强的地方去硬拼，而是可以选择其他自己很有优势的互补领域，进行突破。现在在AI产业链上，有美国强的地方，也有中国强并互补的地方，为什么不继续强化中国在这方面领先的优势，最后双方各取所长，互补共赢，通过谈判来实现各自的利益最大化呢？”

刘伟介绍说，当前在AI研究领域分了多个级别，第一级是简单交互，现在已经实现了一定程度上的简单人机交互；第二级是推理，底层逻辑是基于数学和物理知识的推理。但现在用于AI领域的逻辑推理系统并不完备，甚至整个数学体系仍需要不断继续完善，同时对于物理学的认识也不完备。在这两个领域的知识都不完备的情况下，AI通过统计概率和一定的数学规则，得出的推理过程和人类的推理非常不一样。因为人类的推理除了数理、物理还有心理、伦理、法理、管理、哲理等，所以现在AI的推理还是非常简化的过程，从这个角度看，AI技术还有很大的改进空间。

多名与会专家也提到，AI的机遇、风险和挑战本质上是全球性的，加强国际合作具有重要意义。中方主张在联合国框架内加强AI规则治理，反对利用AI技术优势传播虚假信息，干涉他国内政，危害他国主权，恶意阻挠他国技术发展。陈琪表示，AI技术实力的差距带来了全球南方国家治理话语权不足的问题。近年来七国集团、二十国集团、全球AI合作伙伴关系、经济合作与发展组织达成了多个AI治理的文本，但其中明显缺少全球南方的声音。2023年10月在第三届“一带一路”国际合作高峰论坛开幕式上，中方宣布《全球人工智能治理倡议》，中方提出的系列务实倡议和举措旨在帮助全球南方国家提高竞争力和话语权，反对AI治理的小圈子和意识形态偏见，促进人工智能更好赋能可持续发展和增进全人类共同福祉。