河北
联合国的一个独立小组周三发出警告说，人工智能的发展速度跑在了科学认知和政府政策的前面，这意味着谁也无法保证这项技术不会带来灾难性的危害。
联合国独立国际人工智能科学小组的一份初步报告称，政策制定者面临着一个越来越棘手的难题：他们需要强有力的证据来有效监管人工智能，但这类证据却很难跟上人工智能日新月异的发展速度。
“AI 的能力正在超越科学认知和政府的适应能力，”该小组由40名跨地区专家组成，其联合主席约书亚·本吉奥表示。
“随着越来越多的证据表明 AI 存在欺骗性行为，目前科学无法保证：随着 AI 能力的持续提升，它不会因其自身的行为或恶意使用者的操控而造成灾难性伤害。”
这份报告是首份对 AI 风险与机遇进行全球独立评估的文件，旨在提供最新的科学评估，帮助各国政府在应对快速演变的 AI 系统时进行决策。
短期内，报告预计将转向能够执行现实世界任务的AI智能体系统，尽管能源短缺和高质量数据不足可能会制约其发展。长远来看，报告预测自我改进的AI将更深入地融入经济，并与量子计算、生物技术等领域深度结合。
报告称，AI已经能像专家一样在数学和科学领域进行推理，并正在加快药物和疫苗的研发进程，它能处理的任务复杂度每四到七个月就翻一倍，这意味着系统有可能完成人类需要几天甚至几周才能做完的工作。
虽然这可能带来巨大的经济效益，但目前还不清楚，AI带来的生产力提升能否转化为更广泛的经济增长，或者是否会影响就业。
专家组强调人工智能安全与治理风险
该小组还概述了一系列安全担忧，例如随着人工智能系统日益自主化，并越来越具有欺骗性，存在失去对其控制的风险。
人工智能已被用于生成虚假信息和其他有害内容，并可能被用于欺诈、网络攻击，甚至引发生物威胁。
治理仍然各自为政，许多国家缺乏评估或塑造先进人工智能系统的能力，导致它们不得不依赖自己无法完全理解或控制的技术。报告称，现有的安全工具往往依赖企业披露的有限测试数据。
联合国秘书长安东尼奥·古特雷斯敦促各国政府迅速采取行动。
古特雷斯在一份声明中表示：“世界管不了它搞不懂的东西。”
他补充说：“潜力巨大，但风险也是实打实的，越等代价越大。”
新的全球委员会将聚焦人工智能监督
周三，全球政治和科技领袖联合联合国数字技术机构共同宣布成立一个新的委员会，以致力于人工智能发展的治理，当前人们对人工智能潜在风险的担忧日益加剧。
根据该委员会网站上的一份战略概览文件，AI for Good（人工智能向善）全球委员会将由卢旺达总统保罗·卡加梅和Salesforce首席执行官马克·贝尼奥夫共同担任主席。国际电联秘书长多琳·博格丹-马丁将担任常务副主席。预计其他联合国机构也将参与其中。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
