开车去旧金山,一路上的广告牌几乎全是AI。
湾区没有人闲着。
一周之内,圆桌、大型会议、技术沙龙,什么都有。
美国AI圈有个词形容这种状态:社群。
技术人员讨论模型方向,研究员争论治理路径,投资人判断赛道。
还有不少人,在琢磨中美之间的事。
![]()
今年围绕AI治理的对话渠道十分密集。
联合国、G20、APEC各有议程,二轨对话把中美技术人员和政策研究员聚到了一起。
一个具体进展:中美正在讨论建立人工智能事件的沟通渠道。
AI Safety Connect的两位联合创始人告诉谭主,他们为此努力了很久,现在正与中国同行讨论怎么建事件报告机制,让两国AI实验室隔着太平洋对话。
清华大学战略与安全研究中心副主任肖茜确认,建立沟通渠道和防范AI被滥用符合中国利益。
多个美国AI安全机构的政策研究员也表达了积极态度。
这些就是"低垂的果实":不是最宏大的目标,而是双方已有专业共识、相对成熟的合作点。
![]()
但同样的议题,放到不同语境里,长出来的样子未必一样。
一个基础问题是用词。
![]()
分类方式也不统一。
中国区分"技术内生安全风险""技术应用安全风险""应用衍生安全风险"三大类,美国麻省理工则把AI风险总结为七大类。
结果就是:双方口中的"重大风险"不是同一回事。
美方关心AI是否会带来毁灭性灾难,中方关心AI在实际使用中的具体风险。
还有一个更根本的问题:规则由谁来制定?如果全球AI标准由美国主导,全程缺少中方参与,最终形成的治理规则很难在全球落地。
![]()
第一,共同探讨AI风险分类和分级标准。
什么算重大风险?哪些模型行为属于严重失控?基础问题不谈清楚,后续协同无从谈起。
第二,敲定AI风险事件通报的范围、流程与要求。
哪些事件需要上报、多久之内完成通报、不落实如何处置,都要有约束。没有通报机制就没法留存案例,没有案例就摸不清风险演变规律。
第三,将AI治理置于更广泛的中美交流框架中。
![]()
加州参议员麦克内尼提到,联邦层面推进可能较慢,但加州可以先行先试,建立互信再逐步推广。
中美之间不可能一次性解决所有分歧,但可以先管住最急迫的风险,在这个基础上逐渐做实共识。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.