加强AI全球治理，有效管控风险，势在必行...

近年来，人工智能技术的迅猛发展无疑已成为全世界关注的焦点。尤其是生成式AI技术，一方面正快速塑造数字社会新面貌，另一方面其风险也在蔓延。加强AI全球治理，有效管控风险，势在必行。

　　生成式AI发展迅速，风险挑战不断显现

　　2022年末，以ChatGPT为代表的生成式AI掀起了新一轮技术变革，对医疗、文化和金融等社会各个领域产生深远影响。Pika 1.0、Gen-2、文心一言、华为云盘古等AI大模型应用不断涌现。2024年2月，OpenAI发布了文生视频大模型Sora，在全球范围内引起轰动。历史学家兰格（Christian Lange）说过，“技术是有用的仆人，但却又是危险的主人”。随着生成式AI应用的加速扩张，隐藏的风险不断浮出水面。　　　　　　

　　2024年2月16日，比利时布鲁塞尔，Sora模型文本到视频正在智能

　　生成式AI以数据和算法为基础。随着AI大模型的强化学习，数据安全、隐私保护和算法歧视等风险逐渐显露。由于生成式AI具有“内容创作者”与“虚实融合场”的特点，一旦被深度篡改，虚假有害信息传播速度将加快，影响社会安定。有专家甚至担心，恐怖分子会利用大模型引发核战争。

　　生成式AI将促进生产率的提高，重塑世界经济格局，同时也会拉大南北方的科技鸿沟和发展差距。英伟达公司创始人黄仁勋提出“主权AI”概念，要各国发展自主人工智能。由于发达国家拥有雄厚的技术和经济实力，在国际竞争中很容易占据上风。大部分发展中国家本身资源少，技术也落后于发达国家，在AI发展中可能被加速抛后。此外，随着生成式AI的兴起，各行各业均在向智能化发展，一些发展中国家以低技术水平及劳动密集型产业为主，其经济很容易遭受冲击，进一步加剧南北分化。

　　生成式AI使机器成为人类创意的触发者、传播者和决策者。如果对科技使用不当，会产生“责任谁属”的伦理问题。更重要的是，人类文明的基础在于人的主观能动性与创造力，以及人与人之间多元社会网络的构建。生成式AI的兴起与发展，加强了人类与科技的“物化”关系，削弱了个体智能的演化，也弱化了群体间的情感联结，人类文明传承面临巨大挑战。

　　AI风险全球扩散，全球治理刻不容缓

　　面对风险，越来越多的国家出台法案，将AI纳入监管。根据《2023年人工智能指数报告》，对127个国家的立法记录进行的调查结果显示，包括“人工智能”在内的法案从2016年的1项增加到2022年的37项。AI技术具有跨国性和溢出性，亟需突破国家间的条块监管，构建全球协同的监管框架。

　　然而，AI全球治理面临水平与垂直的两难境地。水平看，AI发展与治理存在“北-南”不平衡问题。发达国家拥有领先的科技产业集群，占据发展高地，具有国际话语权；发展中国家，无论从技术上还是从影响力上都处在全球“洼地”。垂直看，各国由于历史、文化和宗教等方面差异，在AI发展上存在不同的观点和做法。倾听并尊重各国呼声，缩短北方与南方之间的鸿沟，对于AI全球治理至关重要。

　　在此背景下，以国际组织为代表的全球化合作模式与以地区组织为主体的区域一体化模式，为AI全球治理提供了可参考方案。

　　联合国是世界上最具影响力的全球性国际组织，在AI全球治理方面具有“领头雁”作用。联合国安理会在2023年7月18日首次举行关于AI安全和威胁的会议，并于10月成立人工智能高级别机构探讨AI治理。2024年2月，第二届全球人工智能（AI）伦理论坛在斯洛文尼亚克拉尼举行，在本次论坛上，联合国教科文组织与八家全球科技机构和公司签署协议，这些公司和机构将结合《人工智能伦理问题建议书》中有关AI伦理的价值观和原则设计和使用AI系统。

　　经济合作与发展组织（简称经合组织）以市场经济国家为主导，共同应对全球经济、社会和治理等挑战。针对AI治理，2019年，经合组织发布《确定OECD的人工智能发展原则》报告，提出了人工智能的五项原则：包容、可持续发展与福祉；以人为本的价值观和公平；透明和可解释性；健壮性和安全性；可问责制。2023年2月，经合组织公布《国家人工智能计算能力建设蓝图》，为政策制定者提供了基于能力（可用性、使用)、有效性（人员、政策、创新、访问）和弹性（安全、主权、可持续性）三个维度的国家人工智能计算建设指南。

　　二十国集团涵盖发达国家与发展中国家，兼顾南北发展需要，是世界各国经贸合作的代表性机构。2019年6月，G20日本部长级会议首倡“G20人工智能原则”，并在共同声明中强调“使用或研发人工智能应该尊重法律原则、人权和民主价值观”。2023年9月，G20印度新德里首脑会议讨论建立“以人为中心”的AI治理框架，呼吁对迅速发展的AI技术进行全球监督。

　　联合国、经济合作与发展组织、二十国集团等作为全球性组织，为AI全球治理提供了方向性的引导。

　　作为区域一体化组织的典型代表，欧盟在AI治理方面的举措比其它区域更为突出。2020年2月，欧盟委员会颁布《人工智能白皮书》，AI从伦理指导转变为立法监管。2021年4月，世界上第一部全面的AI监管法案《人工智能法案》在欧盟问世，并于2024年2月就法案立法达成初步协议。通过对AI实行分级管理，严禁操控技术、利用人性弱点等行为。欧盟在AI监管方面的举措显示了其想要掌控AI治理全球话语权的雄心。

　　2023年，东盟起草人工智能治理与道德指南，2024年2月正式发布。该指南授权东盟组织和政府负责地设计、开发和部署AI系统，加强用户对AI的信任度。与欧盟的强监管不同，东盟的成员国基本是发展中国家，主要目的不是在大国博弈中争取话语权，而是推动区域经济发展，因此AI治理相对更加开放。

　　欧盟、东盟等地区组织“因地制宜”地制定符合“区情”的本土化治理框架，对全球AI治理具有辅助意义。　　

　　世界人工智能大会(WAIC)开幕

　　对于AI全球治理，中国倡导“以人为本”与“合作共赢”

　　AI治理涉及人类整体发展，中国是世界最大的发展中国家、第二大经济体、AI发展和治理强国，贡献中国方案，是时代所需，也是大国责任。

　　中国“和而不同”“以人为本”等传统文化注重个人发展与社会进步的和谐统一，这符合善用AI推动人类文明前进的全球性倡导。中国在2021年9月25日发布的《新一代人工智能伦理规范》中，将“人类是最终责任主体”这一基本理念写入其中，反映中国“以人为本”的理念和对AI伦理的高度关注。

　　根据中国信通院的统计，从2013年到2023年第三季度，全世界AI专利申请量超过129万件，其中中国申请量占比达到了64%，居于世界首位。另外，中国AI治理水平也走在世界前列。《AGILE全球人工智能治理评估指数》报告表明，在AI发展水平上，美国和中国在总量上都是最先进的。在AI治理水平方面，中国仅次于美国，位于第一梯队。

　　中国积极构建人类命运共同体，主张和平发展、平等互利、协作共赢。从提出《全球人工智能治理倡议》系统性阐述AI治理，到签署《布莱切利宣言》合作建立AI监管方法；从中欧举行数字领域高层对话探讨数据监管、人工智能等关键问题，到中美元首旧金山会晤期间同意建立人工智能政府间对话，中国致力于建设公正、公开的全球AI治理机制，为促进人类科技文明发展做出中国贡献。

　　中国通过制定一系列国内法律法规，引导AI可控、可持续发展。同时，通过提出全球倡议，签署合作宣言，开展大国合作，参与AI全球治理。当前，受“美国优先”政策、“对华脱钩”“科技战”等地缘政治因素影响，中国倡导AI全球治理过程中不乏阻碍和挑战。未来，中国需要密切关注AI技术动向，通过双边、多边合作，包括发挥在联合国框架内的作用，加强中美、中俄、中欧、东盟“10+1”与东盟”10+3”等区域性、全球性以及双边、多边协作机制，提升在国际事务中的参与度和话语权，推动AI全球治理。

　　中国积极倡导受国际社会普遍认可的伦理准则和法律规章，并为全球标准制定贡献东方智慧。工信部称，当前，国家正积极推进构建更加灵活、包容、快速响应的敏捷治理机制，建立人工智能伦理测评、数据收集等平台工具，推进人工智能伦理应用的标准制定。此外，中国“一带一路”倡议惠及沿线国家和地区。AI全球治理同样可借助“一带一路”，推动与沿线各国，特别是发展中国家开展合作，共同促进AI在世界范围内的均衡、公平发展。

　　产业发展的关键在于人才。加强人才培训有助于升级AI“智力”，提高AI全球治理水平。中国可以通过搭建以政府为主导，以高校、企业和智库等多元社会力量参与的国际合作与交流平台，建立健全跨国人才培养体系，推动产业链、人才链、价值链融合转化。中国和欧盟举办第一届中欧青年人工智能大赛，中俄举行研讨会探讨AI人才培养与技术发展等便是有效举措。

　　AI全球治理仍处于探索阶段，技术的复杂性和发展的不确定性需要全球协作，以人类命运共同体理念为指引，共同应对技术、伦理、安全等挑战，保障技术健康发展，维护人类长远利益。(来源：今日中国）

2024世界人工智能大会（WAIC)

时间：2024年7月4-6日

地点：上海世博中心SECC/上海世博展览馆SWEECC

参展/参会咨询:136 5160 9417(微信）

邮箱：business@worldaiexpo.cn

2024世界人工智能大会将于7月4日-6日在上海举办，大会继续以“智联世界”为主题，打造“会议论坛、展览展示、评奖赛事、应用体验”四大板块，汇聚世界顶级专家学者、知名企业代表、政界人士、高校组织、投资人、初创团队等共聚上海、共商发展、共话未来。向世界展示"中国智慧“”上海方案“，不断以中国新发展为世界提供新机遇，

诚挚邀请全球政产学研各界人士参展参会，共同谱写人工智能新篇章！