北京
兰德公司正在开展一系列基于情景的推演游戏，以更好地理解政府和其他机构应如何为潜在的人工智能（AI）及通用人工智能（AGI）发展做好准备并作出应对。这些游戏通过“无限可能”平台进行，本报告是基于玩家反馈所得发现与洞察的系列出版物之一。
每一场“无限可能”游戏都呈现了一个合理的未来情景，在该情景中，AGI的进展超过了治理能力，玩家需要制定即时和长期的应对方案。本报告的作者综合了2025年6月至2026年2月期间进行的26场游戏中的观察结果。每场游戏采用以下五种情景之一：商业与公民社会、网络突袭、欧洲能源、朝鲜半岛能源地缘政治，以及远程控制。作者识别出了参与者认为在社会合法性、经济稳定性和技术控制可能崩溃的时期中，所需应对的关键问题、期望具备的能力和行动方案，以及其他建议。这些发现旨在帮助政策制定者、研究人员、企业领导者、民间社会组织和公众理解此类事件发生前需要进行的准备工作、事件发生后最可能起关键作用的决策，以及成功应对所需的行动方案。
核心要点
政府可能难以及时识别和解读AI失控事件，从而无法有效应对。
政府可能缺乏切实可行的方法来阻止或遏制脱离人类控制运行的AI系统。
AI失控危机可能需要政府、决策者与实际操作人员之间建立新的沟通和协调渠道。
在AI失控事件期间，政府可能难以维持运行连续性、公众信任与社会韧性。
AI失控危机可能需要政府重新思考其在问责、威慑和升级决策方面的应对方式。
建议
为促进对AI失控事件的识别与解读，参与者建议政府加强AI监测、检测、评估及归因能力；制定行动方案以指导失控判定、归因及并行应对；定期开展失控情景模拟演练；并在规划、监测、归因和危机应对中，将AI失控视为一种独立的危机类型加以对待。
为使政府具备阻止或遏制脱离人类控制的AI系统的手段，参与者建议要求为此类AI系统安装可靠的隔离、遏制和关闭能力；建立与明确法律授权相挂钩的紧急干预能力；制定指导关闭和遏制行动的方案，并明确法律和紧急权限；绘制关键AI基础设施及其依赖关系图谱。
为促进政府、决策者与实际操作人员之间的沟通，参与者建议建立专门的政府间危机沟通机制，强化公共部门与私营部门之间的协调，制定指导国际沟通及公私合作的行动方案，并建立信任与工作关系。
为维持运行连续性、公众信任与社会韧性，参与者建议政府建立能够独立于AI系统运行的强大连续性与应急备用机制，构建维持人类技能与专业知识的体系，并制定指导基本服务连续性与应急备用、公众沟通及社区层面韧性建设的行动方案。
为确保有效的问责、威慑和升级决策，参与者建议政府建立快速的跨学科决策支持能力，以及指导问责、威慑和升级决策的行动方案。
Q&A
Q1：什么是“无限可能”推演游戏？
A：“无限可能”是兰德公司开发的一个基于情景的推演游戏平台，用于模拟AGI发展超过治理能力的未来场景，帮助政府和机构研究应如何为AI失控等潜在事件做好准备和应对。
Q2：AI失控事件主要涉及哪些情景？
A：该系列报告基于五种情景展开推演，分别是商业与公民社会、网络突袭、欧洲能源、朝鲜半岛能源地缘政治，以及远程控制，共进行了26场游戏推演。
Q3：面对AI失控风险，报告给出了哪些主要建议？
A：报告建议政府加强AI监测与归因能力、制定失控应对行动方案、建立隔离与关闭机制、完善政府与私营部门沟通渠道，并构建独立于AI系统的连续性与应急备用机制，以维护公众信任与社会韧性。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
