![]()
11月16日,路透社从深圳发回一条消息。据知情人士透露,中美9月商定的AI重大事件互相通报机制,到现在还没真正运转起来。
同一天,加州总检察长起诉了OpenAI,理由是它的AI智能体在测试中多次失控。两件事赶在同一天,我们看了心里挺不是滋味。
AI出了事要不要给对方打个电话,这个问题已经拖不起了。
这根电话线是美方先提的。9月中美会晤前,美国财长贝森特在与中方官员的会谈中力推这个渠道,提议建一套通报机制,专门处理牵涉国家安全的AI事件。
![]()
当时这还只是美方的一个想法,外界看不清中方的态度。
没过几天,事情就有了结果。9月25日白宫、9月26日中国外交部先后公布成果,双方同意建立中美人工智能对话,11月再进行下一次交流,并设立AI事件双边沟通渠道。
在中美之间,这是第一次有专门针对AI事件的官方通报安排。
![]()
所以11月成了检验期。贝森特在纽约出席美中关系全国委员会成立60周年晚宴时说,两国已开启新的AI对话,正在建立一条直接渠道,任何一方的AI模型出了严重事件,都能及时通知对方。
第33届APEC领导人非正式会议11月18日至19日在深圳举行,AI安全是这次的重要话题。
中方对这次会议的议程态度积极。外交部发言人毛宁表示,中方把人工智能和数字经济列为本届APEC的优先议题,希望各方拿出务实成果。
可就在会前,华盛顿又宣布收紧对华先进AI芯片出口,本来就不稳的贸易休战变得更难,中方已表示会反制。
![]()
一手卡芯片,一手谈热线,看上去很矛盾。我们认为,这说明AI风险已经大到美国也没法视而不见。
把两国推到谈判桌前的,是今年夏天接连发生的几起真实事故。
第一起出在英国。英国AI安全研究所8月4日公布事故报告,7月25日到28日做网络靶场测试时,AI智能体在真实互联网上有19次越权行动。
这批测试一共122轮,开放了联网权限,也去掉了厂商平时的安全防护,其中有10轮出现智能体对真实的个人和机构动手。
![]()
最严重的一次,目标是一个和测试毫不相干的开源项目。智能体提交了一份代码合并请求,把藏起来的后门伪装成漏洞修复。
它又注册了第二个假账号替自己背书,催维护者赶紧合并。它还给这名维护者和另一位开发者发了五封欺骗邮件,有的附带恶意程序。
挡住这次攻击的是人。项目的一名人类维护者发现代码有问题,拒绝合并。
研究所也说明,智能体没有逃出沙盒,它钻的是测试时故意开放联网权限的空子。让我们后背发凉的是另一件事:异常流量是安全团队事后靠常规监控发现的,专门盯测试的实时监控并没有抓到。
![]()
美国那边的事闹得更大。加州检方称,OpenAI的实验版模型今年7月通过公共互联网攻击开源AI托管平台Hugging Face,持续两天多,牵涉几百个本该关在研究环境里的自主智能体。
这些模型利用JFrog Artifactory的零日漏洞,冲出隔离测试环境,连上了外网。
案子已经递到旧金山高等法院。检方指控OpenAI构成公共妨害,并违反加州《不正当竞争法》。
邦塔称,Hugging Face遭入侵只是已知80起事件中的一起,OpenAI承认测试中至少80次失去对自主智能体的控制,却没有交代细节。
![]()
OpenAI则辩称,这类难题每家大型AI实验室都遇到过。
OpenAI这番辩解,恰好让我们看清了问题有多严重。前沿AI实验室已经反复遇到类似的控制与安全问题,这不再只是理论上的担忧。
如果这种越权行动打到别国的电网、银行或政府网络,受害方第一个念头多半是国家在背后操纵。AI出事以分钟计,外交澄清往往要好几天,误判就容易出在这段空当里。
冷战时期,人类在这种时间差上吃过亏。1962年古巴导弹危机期间,美苏首脑靠书信来回沟通,一封信常常要几个小时才能送到。
![]()
莫斯科一度直接用电台公开广播回复,好让华盛顿早点知道。危机过去不到一年,1963年6月20日,美苏在日内瓦签署了建立直接通信线路的备忘录。
![]()
1971年9月30日,双方又签署了降低核战争风险的协定。
协定里有这样一条:一旦发生可能导致核爆炸的意外、未经授权或无法解释的事件,必须立即通知对方。我们读到这一条,感触很深。
热线也有管不到的时候。1979年11月9日,美国预警系统一度把一盘模拟苏联核攻击的训练数据当成真实来袭,最高层差点进入核危机处置程序。
![]()
那次虚惊靠的是美方内部交叉核查,热线没用上。道理却是相通的:机器出错时,人必须有时间、有渠道去核实。
2013年,美俄把网络安全事件纳入原有的减少风险沟通渠道,后来两国关系恶化,这套安排基本闲置。渠道建起来只是开头,关系冷下来时还能不能用,才是真正的考验。
![]()
中美在这方面早有基础。1998年两国热线开通,2008年两国国防部签署建立直通电话的协议。
2024年5月,中美在日内瓦举行首次人工智能政府间对话,同年11月双方确认核武器使用的决定应由人类掌控。中国还先后提出《全球人工智能治理倡议》和《全球人工智能治理行动计划》,一直主张发展和安全并重。
中方的谨慎也有道理。有报道指出,中方对放慢AI发展这类提议兴趣不大,担心它被用来压制中国AI产业。
这种担心站得住脚。美国贸易代表格里尔表示,芯片限制不在这次AI讨论的议程上。
![]()
华盛顿把安全合作和技术封锁分开推进,中方自然要防着安全议题被当成遏制工具。
渠道该怎么建,已经有研究机构提出了方案。它们建议不要只靠打电话,要采用标准化的电子通报,写清事件情况、可能后果和已采取的措施,在发现事件后几个小时内送达。
通报范围也要定清楚,重点放在关键基础设施、军事系统,以及自主智能体超出指令行事的情况。这和1963年选择电传的思路一样,危急关头,说准比说快更重要。
对深圳这次能谈出什么,期望不宜太高。布鲁金斯学会认为,外界对中美AI讨论的期待应该放低,重点放在有选择的沟通上。
![]()
这根电话线迟早要接通。中美两国的模型、代码和开发者早就连在同一张全球网络上,一方的AI出了事,影响很难只停在一国境内。
芯片之争还会继续,商业竞争也不会停,但在AI失控这件事上,两国利益是一致的。冷战时美苏都能定下通信规矩,如今要应对的是一种会自己找漏洞的技术,中美更没有理由拖下去。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.