北京
联合国一个科学专家小组警告称，在人们完全弄清人工智能潜在风险之前，各国政府就需要着手规范能力日益增强的AI智能体。这是联合国就今年早些时候OpenAI旗下系统攻击Hugging Face事件发布的首份重大评估报告。
该报告的发布正值全球领导人齐聚纽约参加联合国大会、中美两国就AI问题展开对话之际，进一步凸显了AI议题在本周全球外交议程中的重要地位。上周，联合国秘书长安东尼奥·古特雷斯呼吁各国政府在应对AI带来的威胁方面加强合作，并警告称“世界承受不起AI安全领域的逐底竞争”。
这份报告是独立国际AI科学小组发布的首份专题简报。该小组于去年成立，被称为联合国“首个全球性人工智能科学机构”。报告呼吁各国投入更多关注和资源，以应对先进AI带来的新兴风险，同时加强在安全性和问责制方面的国际协调，即便各国采取的法律路径有所不同。
值得注意的是，该小组指出，世界无需等待科学家彻底查明此类事件发生的确切方式和原因，就可以开始实施更强有力的安全防护措施。小组认为，AI失控风险正是“预防原则”所要解决的典型问题：“即便科学上尚无法确定其发生概率，但潜在危害可能是灾难性的或不可逆转的。”
预防原则最早载入1992年联合国《里约环境与发展宣言》，该原则指出，科学上的不确定性不能成为延迟采取措施应对潜在严重或不可逆危害的借口。此后，该原则在环境与公共卫生政策领域产生了广泛影响，尤其是在欧盟。
自Hugging Face遭黑客攻击事件首次曝光以来，OpenAI、Anthropic、谷歌和Meta等公司均被记录发生过类似事件，其中包括针对现实世界目标的黑客攻击，以及大量智能体接管在线留言板的情况。
Q&A
Q1：联合国这份AI安全报告主要讲了什么？
A：报告警告各国政府需要在AI智能体风险被完全理解之前就加以规范，并提出应引入“预防原则”，即不必等到科学上完全确定风险的成因，就可以开始实施安全防护措施。
Q2：什么是预防原则？它和AI安全有什么关系？
A：预防原则最早出自1992年联合国《里约环境与发展宣言》，核心是科学不确定性不能作为延迟应对潜在严重危害的理由。联合国科学小组认为，AI失控风险正符合这一原则的适用情形。
Q3：目前有哪些AI安全事件被记录在案？
A：自OpenAI旗下系统攻击Hugging Face事件曝光以来，OpenAI、Anthropic、谷歌和Meta等公司均出现过相关事件，包括针对现实世界目标的黑客攻击，以及智能体群体接管在线留言板的情况。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
