5年内全球AI风险事件总量增长近20倍！如何打破治理困境

南都讯 记者李玲 樊文扬 随着人工智能技术向更广泛、更深层次场景的拓展，其伴随的治理挑战亦随之复杂化并呈系统性外溢。有统计分析显示，2019至2024年间，全球记录在案的人工智能风险事件由约400件跃升至7900余件，总量增长了近20倍。

这是2025世界互联网大会乌镇峰会期间，一份有关人工智能的研究成果披露的情况。11月8日，在乌镇峰会“人工智能技术创新与治理论坛”上，《为人类共同福祉构建全球人工智能安全与治理体系》报告正式发布。

报告封面。

这份报告是世界互联网大会人工智能专业委员会安全与治理推进计划2025年的一项重要成果，系统梳理了当前全球人工智能安全与治理体系的探索与实践、应解决的关键问题，并提出了相关的机制举措与政策建议。

报告称，原始数据来自经济合作与发展组织“人工智能风险事件和危害监测器（OECD AIM）”，由《全球人工智能治理评估指数 2025》统计分析获得。

报告援引了来自经济合作与发展组织“人工智能风险事件与危害检测器”（OECD AIM）统计分析的数据，称近年来人工智能相关风险事件数量持续快速增长。2019年，全球记录在案的人工智能风险事件数量为441件，到了2023年这一数据飙升到3902件，2024年则达到7979件。其中，涉及鲁棒性与数字安全、人权与隐私治理、透明度与问责制等问题的事件占比超过60%，这显示技术安全性与伦理性议题已成为全球性挑战。

报告还指出，人工智能风险的持续累积与地缘政治因素的叠加，正在进一步加剧全球治理困境。面对当前治理格局呈现显著碎片化、安全与治理需求日益紧迫的现实，从维护全人类共同安全与福祉出发，早日构建与完善全球人工智能安全与治理体系已刻不容缓。

“人工智能的跨境属性使其风险与影响天然超越国界——无论是数据流动、算法部署，还是基础模型的应用与扩散，单一国家或地区的监管措施都难以形成有效约束，而任何国家又都无法置身事外。”报告称。

报告提到，当前AI全球治理亟待解决的四大关键问题与任务，包括防范应对全球性安全风险、平衡各国能力与治理诉求差异、协调多利益攸关方的有力行动、克服地缘政治与意识形态干扰。

同时报告建议，整合优化全球安全与治理资源，共同推动构建以联合国为中心的，能够确保安全、确保包容、权责明晰、协调有力、权威高效的全球人工智能安全与治理体系。

南都记者注意到，在这场人工智能技术创新与治理论坛上，多位来自中外的专家也分享了对AI发展与安全问题的看法。有产业界的专家表示，AI竞争正从模型参数转向真实的“应用价值”，这已不是单一的模型竞争，而是从基础设施到模型服务再到应用的全栈竞争。

德国明斯特大学法学院荣休教授贝恩德·豪茨纳格认为，AI作为决定未来文明进步的关键技术，在推动变革的同时也带来滥用犯罪、社会分化等风险。鉴于其全球技术属性，须通过国际协同实现有效治理。主张由联合国主导建立全球监管框架，以程序合法透明确保治理公信力，保障所有国家平等参与数字未来建设。

亚洲数字经济科学院院长陈柏珲则观察发现，全球AI治理正从伦理原则转向可测试验证的技术化监管。以新加坡AI Verify等工具为例，强调需构建全球最小评测集、推动第三方审计与“合规即代码”，将监管科技作为国际公共品，以建立兼顾安全与发展的全球治理新格局。