网易首页 > 网易号 > 正文 申请入驻

专访薛澜:AI治理是全球公共产品|亚太中国说

0
分享至

编者按:今年是APEC“中国年”。我们走访了我国多位长期深度参与APEC政策研究与外交活动的权威学者、政策智囊以及大湾区行业名家,并与他们展开深度对话,旨在呈现各方对亚太经济合作的思考,探讨粤港澳大湾区在亚太经济合作中的角色与机遇,为APEC“中国年”汇聚智慧与力量。21世纪经济报道携手前海国际事务研究院,共同推出“亚太中国说”系列专访报道,敬请垂注。

21世纪经济报道记者王峰、洪晓文 特约记者冯箫凝

11月19日,亚太经合组织(APEC)第三十三次领导人非正式会议在深圳顺利闭幕。人工智能是此次会议的重要议题之一。

当前,AI作为引领本轮科技革命和产业变革的战略性技术,已经具备改变人类生产生活方式乃至深刻影响世界的巨大潜力。构建包容、普惠的全球AI治理体系不仅事关全球公平问题,更会对全球发展、全球安全产生重要影响。

在此次APEC会议成功举办之际,我们与清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜展开对话。薛澜教授是国内权威的创新治理领域专家,他给出了自己对AI领域“加速主义VS悲观主义”争论的“解法”,分析了AI治理国际协调的痛点和对策,并特别探讨了APEC和粤港澳大湾区对于AI治理的独特价值。

薛澜认为,APEC机制的“小规模、多元化”特点,更有利于达成AI治理共识,推动AI包容普惠发展;粤港澳大湾区发达的产业应用场景、丰富的治理制度框架,有利于加速构建适配AI健康发展的“社会—技术系统”。

AI治理的目的不仅是应对风险

《21世纪》:最近,美国三大科技公司Anthropic、OpenAI与SpaceX的首席执行官罕见联手,集体呼吁放缓AI开发步伐。你如何看待这一现象?

薛澜:这些AI巨头联合呼吁放缓AI开发步伐,说明AI发展到了一个新的阶段,即AI失控的风险正在增加。

AI的安全风险可以分为三类:AI技术本身可能产生技术幻觉、算法歧视甚至技术失控等内生风险;AI技术的大规模普及可能产生误用、滥用、恶用等应用风险;AI技术变革的颠覆性影响可能引发劳动力结构调整、社会不平等加剧等经济社会风险。其中,人类社会面临的最大潜在风险就是技术失灵引发的失控情况,亦即当AI的自主性过强时,人类丧失对它的控制权。

因此,这些AI巨头联合呼吁放缓AI开发步伐的行为值得欢迎,而且他们应该毫不犹豫地采取措施。在2024年人工智能首尔峰会上,16家全球领先的科技公司作出“前沿AI安全承诺”,表示将努力确保其最先进的AI模型的安全性,并实施负责任的治理。他们应该履行当时的承诺。

当AI技术发展到某一个阶段,是否应该有“暂停”的选项?这是一个根本性治理问题。在生命科学领域,伦理底线的设立已较为成熟。例如,人类胚胎编辑、克隆等研究方向已在国际上形成广泛共识,不少国家设立了明确禁区。AI是否也应设定类似的“伦理红线”?近年来,该问题的紧迫性与争议性显著上升,凸显出科技界内部对于“不可控风险”的现实焦虑。

《21世纪》:有观点认为不需要暂缓,一旦AI触碰“伦理红线”,可以“拉闸断电”,或者像治理核技术那样设置一个“关闭按钮”,这样可行吗?

薛澜:不少人曾提议用监管核技术的方式来监管AI技术。虽然这在机制上可能实现,但在技术上存在很大差异。比如,核技术的提炼过程需要大规模设备,容易被监管方发现;而AI系统则不同,它类似一个实验室,监督AI系统是否合规存在较大难度。

二者的治理逻辑也有显著差异。核技术的起点是制造原子弹用于战争,从风险到危害的路径清晰,需要各国参与防控;而AI技术的起点本质上是在经济生活中应用,并推动创新福祉的扩散,其风险是在应用过程中伴生的,具有较大不确定性。因此,各国政府在进行AI风险治理时,很难将大模型“一禁了之”。用对旧技术的治理来解决新技术的问题,本身可能存在很大的风险。

《21世纪》:AI不能一禁了之,那么AI治理到底应该怎么办?

薛澜:AI技术发展呈现指数型演进,而治理体系的演进则普遍存在滞后与碎片化现象,导致出现典型的技术发展与技术治理之间的步调不一致。监管政策的制定、立法程序、标准建设等过程均具有特定的周期性与协商性等特征,很难与技术迭代的速度实现同步对接。

在此背景下,“边创新边治理”的“敏捷治理”是现实可行的治理方式。敏捷治理强调政策工具的快速反应和适应性演化,推动AI技术发展的利益相关方形成持续性的共同学习和探索机制,根据前沿AI发展及其带来的收益、风险及时调整治理对象和内容,采用分级分类、监管沙盒等方式,通过治理结构、治理策略、治理工具的灵活创新克服AI治理的难点。

敏捷治理还要求技术风险监管部门改革传统的风险监管思路,把监管者与被监管者之间的“猫鼠”关系改变为深度交流与相互依赖的互动关系;对产业发展过程中的风险进行及时评估;发现问题苗头后及时采取引导性、指向性而非惩罚式、选择式的监管策略。

AI治理的目的不仅是应对风险,更重要的是塑造AI的“社会—技术系统”,推动相应制度架构协同演化,最终形成一个兼具创新性、安全性与公平性的社会应用生态。

需要改变当前的AI叙事

《21世纪》:你最近撰文指出,全球AI治理正在经历历史性跨越,从“共识形成”进入“制度建构”阶段。但与“形成共识”相比,“制度建构”更难,制度必须落实到约束力上。你认为“制度建构”的重点和难点是什么?

薛澜:当前较为严峻的全球治理挑战,主要是地缘政治冲突对AI合作形成的障碍。原本可以在技术、伦理、标准等层面展开广泛合作的AI治理议题,越来越多地被纳入战略博弈的框架之中。

破解这个难题,需要改变当前的AI叙事。这个叙事是指:通用人工智能(AGI)的研发是少数国家主导、大型科技企业牵头的“竞赛型项目”。在这个叙事里,美国的科技公司即便看到了AI失控的风险,并且呼吁科技界暂停AI研发,它们自己却不愿意暂停,担心会被其他的科技公司追上。这样的叙事非常危险,会让全球协同开发与风险共担的路径很难实现。

这个叙事也是错误的。首先,中美两国科技公司并没有竞争谁先达到AGI。AGI只是一些科技公司提出的概念,还有很多科技公司并不认为存在AGI这么一个特定节点,它们认为AI发展是一个不断改进、不断实现新目标的过程。其次,中美两国AI发展的路径不同,美国崇尚“大数据—大算力—大模型”的规模定律(Scaling Law),认为拥有更多数据、更多算力资源的公司能够训练出参数量更大、性能更为优越的模型;中国则更强调发展模型的同时不断提升它的应用表现。所以,两国科技公司不存在“你死我活”的竞争。正确的叙事应该是,不管哪个国家的科技公司,即将触碰AI安全红线的时候都必须暂停,并采取治理措施,没有哪家公司拥有不停下的特权。

《21世纪》:近年来,国际社会针对AI治理动作频频,也取得了一定成果,但治理的进步与技术的发展之间仍存在不够匹配的情况,这是为什么?

薛澜:AI治理是涉及法律法规、行业标准、国际协调的复杂系统,需要不同国家、国际组织、相关企业的共同参与。全球治理中存在所谓的机制复合体(regime complex)问题:在复杂的全球性问题上,一系列不同的治理机制都有一定的发言权,但这些机制之间并无上下从属关系,它们可能相互重叠、相互冲突,甚至是完全矛盾的。这同样适用于AI治理。

目前,以联合国为代表的国际组织、以中美为代表的AI大国、以微软和谷歌等为代表的跨国企业等各类国际行为体都在深度参与AI治理。这些参与主体在治理理念、关注议题、治理偏好、治理能力上存在差异,导致AI国际治理呈现嵌套、重叠、平行的碎片化局面,在合理性、公平性、有效性等方面存在一系列治理赤字。在此背景下,如何协调这些相互重叠、不同层次、不同诉求的参与主体,建立受到广泛认可的AI全球治理机制复合体,是AI治理的重要挑战。

《21世纪》:近日,中国率先批准《关于成立世界人工智能合作组织的协定》,体现了推进合作组织筹建进程的真诚意愿和坚定承诺。你认为这给全球AI治理合作带来了怎样的启示?

薛澜:AI治理是全球公共产品,具有极强的外部性,一个国家不安全,所有的国家都不安全,攸关全人类命运,是世界各国亟须共同应对的重要挑战。积极参与AI全球治理是中国引导AI健康有序发展的基础和前提,率先批准《关于成立世界人工智能合作组织的协定》,体现出中国在联合国框架内加强AI治理协作和标准塑造的决心,世界人工智能合作组织下一步开展的具体工作非常值得期待。

一个非常好的AI治理试验平台

《21世纪》:你曾指出全球南方国家在AI治理中结构性缺位,不仅存在算力和数据的差距,还在语言和文化上“被定义”。亚太区域是全球南方国家分布最密集的地区之一,如何借助APEC平台做出一些改变?

薛澜:联合国有193个会员国,让这么多国家在治理问题上达成共识,其实非常困难。APEC目前共有21个成员经济体,相比于联合国数量有限,更有利于达成共识。APEC成员同时具有多样性,在AI发展程度方面,APEC成员中既有中美这样的AI发展大国,也有一些AI发展紧随其后的经济体,更有AI发展比较慢的经济体;在AI应用场景方面,APEC成员经济体语言、文化多元,给AI技术提供了很好的应用场景。

这种小规模、多元化的特征,使得APEC成为一个非常好的AI治理试验平台。最近在深圳举行的亚太经合组织(APEC)第三十三次领导人非正式会议提供了非常好的机遇,让大家可以共同探讨怎样有效防范AI安全风险,推动AI包容普惠发展。

《21世纪》:粤港澳大湾区的AI产业密度高,能否成为亚太地区AI治理规则互鉴的窗口?

薛澜:大模型发展到目前,仍然只是“上半场”。目前一个不争的事实是:AI技术能力快速提升,却还不足以很快转化为经济与社会价值的增长。目前为止,除了软件、编程等领域,AI在其他很多领域虽然有应用,经济价值却还没有完全体现出来。

为什么技术到位了,应用还有待落地?历史上有个特别经典的案例——汽车。1885年,奔驰造出第一台内燃机汽车原型。但当时整个社会体系远远没有跟上,汽车是奢侈品,并不是真正的交通工具。后来,福特Model T把汽车的成本从大约850美元降到300美元,买车的人才多起来。但买车只是开始,车要跑得远,需要更好的道路;跑远了,要解决加油问题,加油站建设就跟上了;上路不能都是“马路杀手”,交通规则和驾照体系跟了上来;出了事故,保险体系也跟了上来。这一整套软硬件设施是逐渐演变出来的。

把镜头拉回AI,我们已经有了“发动机”——大模型能力已经相当强,但对应的“道路系统、交通规则、驾驶员”,也就是应用落地所需的社会系统,还没有建立起来。这就引出我一直强调的“社会—技术系统”(STS)视角:技术对社会的影响,必须和一个更广泛的社会制度体系结合在一起。技术不是单向驱动社会发展的,而是与社会互动、共同演化的过程。粤港澳大湾区既有内地基础设施完善、产业应用场景丰富的优势,又有港澳制度多元的特点,解决AI治理问题的工具更加多元,这有利于加速构建“社会—技术系统”,更好推动AI技术的应用。

【“亚太中国说”出品团队】

统筹:林虹

策划:洪晓文 冯箫凝

编辑:张星,李博

采写:王峰

监制:洪晓文 曾婷芳

联合监制:王炳云

制片:张通 柳润瑛

设计统筹:林军明

设计:郑嘉琪

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
荷兰再谈光刻机禁令: 已经对先进光刻机实施对华封锁,不同意继续限制低端光刻机,反对match法案

荷兰再谈光刻机禁令: 已经对先进光刻机实施对华封锁,不同意继续限制低端光刻机,反对match法案

逍遥漠
2026-11-20 13:17:09
黄珊珊最终出手挺沈伯洋,准备转投民进党,还是与柯文哲唱双簧?

黄珊珊最终出手挺沈伯洋,准备转投民进党,还是与柯文哲唱双簧?

揽星戈
2026-11-20 00:08:40
《GTA 6》七个支线别错过:有个任务我玩到第80小时才撞见

《GTA 6》七个支线别错过:有个任务我玩到第80小时才撞见

赴一场山海啊
2026-11-20 00:25:23
皇马3天续约3大主力!34岁巨星留下,穆帅还要买回帕斯,曼联没戏

皇马3天续约3大主力!34岁巨星留下,穆帅还要买回帕斯,曼联没戏

体育知多少
2026-11-20 06:58:31
美军潜艇司令抛出论断:面对中国095和096,美军已不再遥遥领先

美军潜艇司令抛出论断:面对中国095和096,美军已不再遥遥领先

铁锤侃侃而谈
2026-11-17 10:54:07
严打之下夜场大洗牌,KTV小姐姐悄然转行后,原来都去了这些地方

严打之下夜场大洗牌,KTV小姐姐悄然转行后,原来都去了这些地方

千秋文化
2026-06-29 19:55:59
希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

军情观察家
2026-11-20 23:35:04
越南领导人很焦虑:和中国一比较才发现,原来我们落后了这么多

越南领导人很焦虑:和中国一比较才发现,原来我们落后了这么多

一簌月光
2026-09-12 08:27:02
郑丽文久旱逢甘霖!蓝营全面开花 传来三大关键利好 赵少康算计落空

郑丽文久旱逢甘霖!蓝营全面开花 传来三大关键利好 赵少康算计落空

王姐懒人家常菜
2026-11-20 15:23:20
研究发现,凡是头发白得早的人,大多都有 5 个共性,留意观察

研究发现,凡是头发白得早的人,大多都有 5 个共性,留意观察

荷兰豆爱健康
2026-11-04 18:23:17
疯了!美国又猛推华为一把

疯了!美国又猛推华为一把

华商韬略毕亚军
2026-11-19 10:13:20
邝港智口供炸裂:谭方骏喜欢的人是他 蔡天凤再婚是为钱 谭家知情

邝港智口供炸裂:谭方骏喜欢的人是他 蔡天凤再婚是为钱 谭家知情

八卦宝宝
2026-11-19 16:06:38
两性关系:男人实话实说,女性过了60岁,对男人的最大需求有7点

两性关系:男人实话实说,女性过了60岁,对男人的最大需求有7点

皓皓情感说
2026-10-17 08:45:08
香港赛第4日:国羽2胜5负!三大男双出局,朱轩辰惜败王祉怡晋级

香港赛第4日:国羽2胜5负!三大男双出局,朱轩辰惜败王祉怡晋级

钉钉陌上花开
2026-11-20 20:18:15
梅西接班人 19场造20球!皇马决定8000万回购 时隔3年回归

梅西接班人 19场造20球!皇马决定8000万回购 时隔3年回归

叶青足球世界
2026-11-20 08:40:04
事关养老待遇!企业退休人员档案复核,重点看清这几方面

事关养老待遇!企业退休人员档案复核,重点看清这几方面

奇思妙想生活家
2026-11-21 00:17:09
塞尔维亚计票结果正式出炉,欧洲难道是白高兴一场?武契奇自己都没料到,之前对局势的预估实在太过保守

塞尔维亚计票结果正式出炉,欧洲难道是白高兴一场?武契奇自己都没料到,之前对局势的预估实在太过保守

磊子讲史
2026-11-17 15:03:17
月薪五万是什么体验?网友:人的欲望是无限的

月薪五万是什么体验?网友:人的欲望是无限的

康富贵碎碎念
2026-11-18 17:45:10
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
GTA6官方完整地图正式公开!44.5MB高清原图

GTA6官方完整地图正式公开!44.5MB高清原图

游民星空
2026-11-19 23:20:41
2026-11-21 02:03:00
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
287405文章数 745549关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
数码
艺术
本地
公开课

发现黄仁勋实在挑不出毛病后,皮衣侠的背锅梗图开始席卷全球了

数码要闻

英特尔公布D270加速器成绩单 部分专业计算性能最高领先英伟达近六倍

艺术要闻

2026 研究与超越——中国小幅油画作品双年展 油画选(二)

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版