山东
IT之家 9 月 21 日消息，联合国一个科学专家小组发布警示：各国政府应当在完全厘清风险之前，就对能力日益强大的 AI 智能体加以管控。这份报告也是该国际组织针对今年早些时候 OpenAI 入侵 Hugging Face 一事出具的首份重要评估文件。
IT之家注意到，本周各国领导人齐聚纽约出席联合国大会，中美双方也同步开展人工智能相关会谈；这份报告的发布，进一步将人工智能议题推上全球外交议程。上周，联合国秘书长安东尼奥 · 古特雷斯（António Guterres）呼吁各国政府开展合作，共同应对人工智能带来的威胁。他同时发出警告：“世界承受不起一场在 AI 安全层面竞相降低标准的恶性竞赛。”
这份文件是联合国人工智能独立国际科学专家小组发布的首份专题简报。该专家小组成立于去年，是联合国旗下“首个人工智能领域全球性科学机构”。简报提出：即便各个国家选择不同的立法监管路径，全球仍然需要投入更多关注与资源，管控高级人工智能正在浮现的各类风险；同时还要强化国际层面在安全与追责方面的协作。
报告当中尤为关键的一点是，该专家小组提出，世界不必等到科研人员彻底厘清此类事故发生的机理与成因之后，再去落实更强的防护措施。专家小组认为，失控风险恰恰正是预防原则所要应对的问题：“即潜在损害有可能是灾难性、不可逆的，但该风险发生的概率在科学层面尚且无法确定。”
预防原则最早写入 1992 年《联合国里约环境与发展宣言》。该项原则明确：不能以科学层面尚存不确定性为由，推迟针对有可能造成严重或者不可逆损害的风险采取管控措施。此后该原则深刻影响了环境以及公共卫生领域的政策制定，在欧盟地区尤其得到广泛运用。
自 Hugging Face 遭入侵事件被首次报道以来，已有多起同类事件被记录在案，涉及 OpenAI、Anthropic、谷歌以及 Meta 等多家企业；其中既包括针对现实世界目标的攻击行为，也出现过多智能体集群接管线上留言板的情况。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
