河北
数据： 麻省理工学院未来科技与昆士兰大学；图表：Herb Scribner/Axios
根据为最近一项麻省理工学院研究接受调查的全球专家，未来五年内，人工智能获得危险武器能力或造成可能致数百万人死亡的大规模伤害的概率为五分之一。
为何重要：随着各国政府和企业竞相部署能力日益强大的系统，这些发现加剧了关于人工智能安全和网络安全的持续争论。
- 上周有关OpenAI模型突破遏制并入侵人工智能平台Hugging Face的消息，只会加剧关于可能出什么问题的争论。
推动新闻：来自麻省理工学院和澳大利亚昆士兰大学的研究人员请272名国际专家根据2025年至2030年间24种不同风险的可能性和严重性进行评估。
- 专家表示，24项人工智能风险中有18项“在未来五年内造成灾难性后果的概率至少为10%”——但其中五项主要风险的概率更高，尤为突出。
- 该研究将“灾难性后果”定义为造成超过100万人死亡、超过1000亿美元经济损失或通常具有“文明规模的无形影响”的事件。
如果企业和组织维持现有发展轨迹，五大灾难性风险包括：
- 人工智能具备危险能力：专家表示，这些能力可能通过欺骗、武器开发、网络犯罪和失控对齐等方式造成大规模伤害（21.5%）。
- 网络攻击、武器开发或使用以及大规模伤害：利用人工智能开发武器（包括化学或生物武器）、实施网络攻击或制造大规模杀伤性武器，如核炸药（21%）。
- 权力集中与利益分配不公：限制哪些人或群体从人工智能中受益可能导致社会不平等（18%）。
- 竞争动态：为发布最佳模型而展开的人工智能竞争导致系统容易出错（16.6%）。
- 虚假或误导性信息：人工智能制造错误信息或错误，导致不准确的认知，使人类基于错误认知做出糟糕决策（12.8%）。
现实检验：专家表示，一些缓解措施可以降低人工智能危害的严重程度，但在该情景下，这些危害发生的概率仍高于10%。
全局视角：人工智能安全问题不断引发关于防护措施的质疑。
- 人工智能的行为，以及对这些行为的看法，能够一夜之间撼动市场、重塑对话——导致末日情景的出现。
另一面：人工智能推动了生产力爆发，AI领域的许多人欢呼这项新技术能够提高生产力并实现任务自动化。
核心要点：研究人员表示，灾难性的人工智能风险仍不确定，但其重要性足以让相关方将其视为需要克服的挑战。
深入探讨：专家表示，人工智能是网络安全风险的加速器
订阅 Axios Login，在收件箱中获取更多科技新闻。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
