浙江
来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。
这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响力的技术正在快速发展，而相应的国际规则、沟通渠道和风险控制体系却尚未完全建立。
参与研究的专家指出，未来更强大的人工智能系统可能在网络安全、军事指挥、情报分析、生物技术研究以及关键基础设施管理等领域发挥越来越重要的作用。一旦这些系统出现意外行为、遭受恶意利用或被错误部署，其影响范围可能跨越国界，并对全球安全环境造成冲击。
为此，报告建议中美两国参考历史上处理核风险的经验，逐步建立多层次安全保障机制。其中包括加强信息交流、建立危机沟通渠道、开展技术风险评估合作，以及探索针对最先进人工智能系统的透明度和安全测试制度。
专家们认为，虽然人工智能与核武器并不相同，但两者都具有高度战略意义，也都涉及国际竞争与全球安全问题。因此，在技术处于快速发展阶段时提前建立防护框架，往往比等到风险全面暴露后再采取行动更加有效。
报告还特别强调，未来最大的危险未必来自人工智能本身，而可能来自国家之间因不信任而形成的误判。例如，当一方无法准确判断另一方正在开发何种能力、达到什么水平时，就更容易出现过度反应、误解甚至升级竞争。
部分专家因此提出，应当探索建立类似冷战时期“热线机制”的沟通渠道，使各国能够在涉及人工智能重大事件时保持即时联络，避免因信息不对称引发不必要的安全危机。
与此同时，研究人员认为，对于最先进人工智能模型的训练和部署，应当建立更加严格的安全审查机制。未来某些具备极高能力的系统，可能需要接受独立测试和持续监督，并建立异常行为报告制度，以便尽早发现潜在风险。
报告指出，目前全球人工智能治理体系仍处于早期阶段。尽管各国已经出台不同的监管政策和行业规范，但在跨国协作层面仍存在明显空白。而人工智能技术的发展速度正在不断加快，这意味着国际合作窗口可能不会长期存在。
参与讨论的专家普遍认为，中美作为全球人工智能领域最重要的两个参与者，在风险治理方面拥有特殊责任。如果双方能够在安全标准、风险评估以及危机沟通方面达成更多共识，将有助于降低未来出现重大技术安全事件的可能性。
不过，专家们也承认，当前国际环境下推动此类合作并不容易。技术竞争、国家安全考量以及产业利益都会影响相关讨论进程。因此，他们更倾向于从风险管理和安全防护等相对务实的领域入手，而非一开始就寻求全面监管协议。
分析人士指出，这份报告反映出人工智能治理讨论正在发生变化。过去各方关注的重点更多是隐私、版权和就业影响，而如今越来越多专家开始将目光转向长期安全和全球战略稳定问题。
随着人工智能能力持续提升，如何在保持创新活力的同时建立有效安全机制，正在成为全球科技界和政策界共同面对的新课题。而借鉴核时代积累的风险管理经验，也许将成为未来人工智能治理框架的重要参考方向。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
