联合国启动首届AI对话：是共同治理AI 还是任由AI反过来影响我们？|欧陆志

来源：欧陆志

　　《欧陆志》专栏 郝倩 发自瑞士日内瓦

　　在今年国际电联”AI向善”峰会正式开幕之际，联合国在瑞士日内瓦正式启动首届全球人工智能治理对话（Global Dialogue on AI Governance，简称AI 对话）。在7月6日的开幕式上，联合国秘书长安东尼奥·古特雷斯真诚发问：“人工智能正以前所未有的速度发展。问题在于，我们究竟是共同治理人工智能，还是任由人工智能反过来影响我们？”

　　联合国昨日发布报告称“我们正处于一个转折点”，电力经过数十年普及到大多数家庭，互联网大约花了15年达到10亿用户，ChatGPT却在2个月内就达到了1亿用户。由此，“传统的政策制定未必能跟上步伐”。

　　“全球人工智能治理对话首次让每一个国家都拥有参与讨论的一席之地。现在，我们必须把全球参与转化为全球行动，让人工智能变得更加安全、更加公平、更加普惠，也更加符合伦理。” 古特雷斯认为这是联合国启动AI对话的意义所在。

　　联合国大会主席安娜莱娜·贝尔伯克（Annalena Baerbock）随后也在大会中表示：“这场全球对话不仅仅关乎如何监管一项新技术”，“如果能够以负责任且协作的方式治理人工智能，它将有潜力加速几乎所有联合国可持续发展目标（SDGs）的实现，为医疗健康、教育、科学研究、灾害防备和农业等领域提供强有力的新工具。”

　　“这场对话也向全世界证明，联合国并没有停留在过去，也并非行动迟缓；相反，它有能力，也有意愿，在当今时代最紧迫、最具前瞻性的议题上发挥积极作用。”贝尔伯克强调说。

　　中国开源模型支撑全球近三成AI应用

　　在这一拥有全球影响力的对话平台上，清华大学人工智能国际治理研究院院长，清华大学中国科技政策研究中心主任薛澜的一番发言令人震撼。薛澜引用了一系列数据说明中国开源模型的国际影响力。

　　“过去一年，全球40%以上的开源大模型下载量来自中国开源模型，中国开源模型已经支撑了全球近三成（约30%）的AI应用使用。有研究估计，美国约80%的AI初创企业，在向风险投资机构展示产品原型（Pitch）时，都使用过中国的开源模型作为开发基础。”

　　根据联合国此次公布的《人工智能问题独立国际科学小组的初步报告》，全球现在每周有超过10亿人使用对话式人工智能，然而人工智能的获取和使用在全球范围内差异巨大。此外，各发达经济体在计算基础设施和模型方面也存在巨大差异。

　　薛澜认为，开放、多元的全球AI生态，是推动人工智能持续创新的基础。

　　“无论是Google等企业开发的闭源前沿模型，还是中国近年来快速发展的开源模型，都应在全球市场公平竞争，让全球用户共享技术进步带来的成果。”

　　薛澜强调说，美国拥有Google、OpenAI、Anthropic等估值高达数千亿美元的领先AI企业；与此同时，中国开源大模型近年来实现了跨越式发展，已经成为全球AI生态不可或缺的重要力量。

　　“中国开源模型之所以受到国际欢迎，主要是因为性能高、成本低，支持数据本地化部署，有助于维护各国数字主权。”薛澜说。

　　更重要的是，中国开源模型支持包括多种本地语言在内的大量语言，例如部分模型支持100多种语言，为长期缺乏AI资源的非洲、东南亚等地区提供了重要基础设施。

　　薛澜分析说，当前国际社会也正在讨论开源模型与闭源模型如何实现更好的协同发展。但无论如何，维护开放、多元的全球AI生态，对于促进全球AI技术普及与创新至关重要。

　　薛澜坦言：“过去几十年，无论是共同开展研究还是联合发表论文，跨国合作始终是推动科技创新的重要力量。”他承认，当前必须面对更加复杂的国际政治现实，但越是在这种背景下，越需要坚持科学共同体的基本原则。坚持开放合作，才是人工智能发展的根本。

　　全球几乎所有先进大模型都诞生于企业

　　在AI对话中，上海人工智能实验室主任宋海涛指出，目前全球几乎所有先进的大模型都诞生于企业，而不是高校。

　　因此，企业最了解模型真正具备哪些能力、可能出现哪些风险，以及实际应用过程中会遇到哪些问题。如果科研人员不能深入产业，仅依靠论文研究，对AI风险的理解很快就会落后于现实。与此同时，仅依赖企业自身开展治理同样存在局限。企业需要来自独立科学界的监督和挑战，否则很多问题可能直到造成严重后果之后才会暴露出来。

　　“近年来，中国政府高度重视人工智能技术在实体经济中的应用，重点推动AI赋能医疗健康、文化等多个领域。上海人工智能实验室的发展定位，就是成为连接基础科研与产业应用的重要桥梁，在推动科研成果转化的同时，也培育了一批具有国际影响力的AI企业。”宋海涛在“AI对话”的边会中，对中外学者和企业界人士坦言。

　　针对如何加强科学界参与AI治理，宋海涛提出了三点建议。首先要建立“可验证的透明性”（Verifiable Transparency）。透明并不意味着企业公开所有商业机密，但应允许独立科学家对企业开展的安全测试、安全评估进行验证和复核。

　　这种机制既不会削弱企业竞争力，也能够降低整个社会面临的AI系统性风险。

　　其次，科学家应走出论文、走向真实世界。“科研人员不能只关注论文发表，而应该更多关注现实应用场景和产业实践，深入真实世界研究AI带来的风险与挑战。只有真正理解AI在现实中的运行方式，科学研究才能为AI治理提供有效支撑”。

　　此外，宋海涛认为，政府和国际组织应建立长期合作机制他建议各国政府及国际电联（ITU）等国际组织支持联合研究计划，建设共享测试平台，支持独立科研力量持续开展AI安全研究，在商业利益与公共利益之间形成更加平衡的治理体系。

　　这一点和薛澜的观点一致。薛澜也在现场提到，面对人工智能快速发展带来的安全、伦理等挑战，各国应共同制定治理规则，加强国际合作，共同建立能够有效识别、防范和应对AI风险的全球治理体系。

　　人工智能真正的意义在于保护“本地化”

　　人工智能是否在国际化的同时，保住小语种和本地文化？因为国家和地区在人工智能的发展和应用中处在不同的阶段，有不同的发展节奏，如何能够弥合这种差距？

　　在此次峰会中，第一位抛出这个问题的，是爱托尼亚共和国总统阿拉尔·卡里斯（Alar Karis）。他介绍说，爱沙尼亚是一个小国家，这就意味着我们需要的大语言模型，要能够理解我们的语言，能够理解我们的文学。

　　阿拉尔·卡里斯认为，“现在有很多的小国家和地区，因为年轻人越来越多的用英语，他们的语言正在消失。人工智能可以助力于保住这些小语种，保住当地文化。”

　　“AI开发企业最好能理解当地的需求。人工智能在非洲的意义，并不仅是有多少人可以使用，而是有多少人会因为AI而受益。如果现在还在讨论非洲有多少人有渠道使用AI，已经不够了。”智能非洲（Smart Africa）总干事和CEO 拉西纳·科内（Lacina Koné）坦言。

　　“我们到底是在参与，还是仅仅作为AI的’消费者’？”拉西纳·科内认为这才是非洲探讨人工智能问题的关键。他认为，假如非洲仅仅是作为技术的使用者，而技术研发，就业机会和技能积累都发生在其他地区，那就意味着非洲并没有真正参与到人工智能的价值创造。

　　“人工智能从来都不是一个单一的问题，而是涉及投资，技能培训，数字基础建设等诸多方面。我们可能无法和任何前沿的大模型竞争，但完全可以围绕农业，粮食安全，教育，原料多领域的AI应用中，例如农业，粮食安全，教育，医疗等等。”

　　拉西纳·科内还介绍说，仅从语言而言，非洲有2000多种语言，非洲对于人工智能的意义显然不应该仅限于“使用者”，而是可以更深入的参与，甚至塑造行业的发展方向。

　　谷歌集团副总裁，谷歌研究负责人，特拉维夫大学计算机科学教授约西-马蒂亚斯（Yossi Matias）教授也提到了他们近年来在多语言AI方面所做的探索。他介绍说，随着Google Translate每月服务超过10亿用户、支持近250种语言，AI翻译的发展目标已经不仅是“翻译文字”，更要理解不同文化的细微差异（cultural nuance），这也是谷歌开发Gemini等多语言AI模型的重要设计考量。

　　与此同时，谷歌正在推动”1000种语言动议（1000 Languages Initiative）”，目标是开发能够覆盖全球1000种最常用语言的AI模型，进一步缩小数字鸿沟。

　　约西-马蒂亚斯教授特别提到，2024年谷歌翻译一次新增110种语言，其中包括60种非洲语言。他们还在非洲和印度收集正在使用中的语言，应用在大语言模型开发中。