福建
周一,联合国人权事务高级专员的一封信,把AI治理这场持续了数月的口水仗,推到了国际组织的层面。
信件的措辞异常直接。
"我们正站在不可逆转变化的边缘"
联合国人权高级专员沃尔克·蒂尔克在信中写道,世界正"站在不可逆转变化的边缘",这场变化影响的不只是当下的人类,还包括子孙后代。
他将当前愈演愈烈的AI能力竞赛,称为"通向更大生存风险的一次台阶式跃迁"。
蒂尔克呼吁各国和相关企业通过多边渠道紧急行动起来,为治理前沿AI模型找到一条基于国际人权法的路径。
这封信被同时发送给十家AI开发企业,其中包括Anthropic、OpenAI、xAI、Meta、微软和谷歌。
信件发出的时机颇为微妙。
就在此前不久,一名Anthropic研究员因担忧技术脱离人类控制而公开辞职,另一名并未离职的员工也公开表示,他"确实相信AI可能杀死所有人类",并认为这一概率在未来十年内超过百分之十。
企业自律远远不够
蒂尔克在信中特别指出,行业内部的自我监管只能算是"一个亟需的第一步",但远远不足以应对眼下的风险。
他警告称,随着能力越来越强的AI智能体不断涌现,整片地区的居民都可能因此失去清洁水源、供暖和金融服务。
更令人不安的是,他提到智能体AI正在加速战争的节奏与范围,并且正在侵蚀那些原本阻止大规模杀伤性武器被启动的防线。
蒂尔克把矛头直接指向了产业格局的核心。
他表示,那些站在前沿AI开发最前沿的企业,主要集中在中国和美国,这些企业既有责任、也有能力立即采取行动降低风险。
与此同时他也强调,没有哪个国家能够单独治理这项技术,也没有哪家企业能够独自完成自我约束。
一封被简化的信
值得注意的是,这封信本身比外界报道呈现的形象更加克制。
据统计,信件全文约一千一百八十字,分十三段、五十四句话,提出了十四项具体诉求，其中五项针对企业,七项针对国家,两项同时面向两方。
信中并未点名任何一家公司,也没有设定具体的时间表,甚至没有出现"划红线"或"暂停"这类字眼。
信中唯一一项面向行业的即时防范措施,是承诺限制"递归式自我改进"——也就是利用AI来打造更强AI的做法。
各大媒体在报道中反复引用的"前所未有的风险"一词,确实在信中出现过两次;"紧急行动"也确实出现过一次。
但"遏制"这个被广泛使用的动词,其实并未出现在信件原文中,蒂尔克本人使用的动词是相对温和的"治理"。
放缓争论仍在继续
这封信发出之际,恰逢围绕AI发展是否应当放缓的激烈辩论正处于白热化阶段。
就在同一个周末,Anthropic首席执行官达里奥·阿莫迪呼吁行业"把握节奏",协调放慢技术发展速度,并获得了他的两位主要竞争对手——xAI的埃隆·马斯克和OpenAI的萨姆·奥特曼——的公开支持。
而美国总统特朗普及其重要盟友,则对这类放缓呼吁持抵制态度。
几乎在同一时间,由两百多位政界人士、科学家和思想领袖联署、其中包括十位诺贝尔奖得主的一份声明也在联合国大会高级别周开幕之际发布,呼吁各国在年底前就AI的可核查限制达成国际协议。
一封相对克制的外交信函,与一场愈演愈烈的公众辩论,正在同一时间点上交汇。
至于这场多边协商能否真正转化为具有约束力的行动,眼下仍是一个悬而未决的问题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
