联合国AI武器协定生变：人类审查环节消失后的数字安全棋局

9月的联合国会场上，一场围绕AI治理的博弈并未进入公众视野，却可能在很大程度上影响未来全球数字安全规则的走向。据美国《华盛顿邮报》援引知情人士消息，美国和俄罗斯外交官在本月联合国会议期间推动弱化一项AI武器相关协定，导致“人类审查AI生成目标”的要求被删除。消息传出后，国际AI治理观察人士普遍将此视为联合国框架下AI军控谈判的关键节点。

对于通信与数字基础设施行业而言，这并不只是一个遥远的外交议题。它意味着AI系统在军事及关键信息基础设施场景中的自主权边界正在被重新划定。这种边界一旦调整，将沿着标准、合规、技术架构等路径，直接传导至下一代网络建设、数据安全治理和高可靠AI系统的工程实践之中。

#### 01 从“人类审查”到“自主决策”：安全阀为何关键

在AI系统的工程化应用中，人类审查环节长期扮演“安全阀”角色。无论是军事辅助决策还是民用网络智能运维，人类监督都承担着对抗模型误导、数据污染和异常输出的最后一道防线。近年多起涉及AI误判的事件反复验证了一个事实：自动化系统在语义复杂、对抗性强的环境中，仍可能出现不可预测的行为。正因如此，“人在回路”原则被写入多项国际AI治理文件和行业安全标准，成为数字系统可靠性设计的共识基础。

联合国AI武器协定中的人类审查条款，正是这一共识在军事治理领域的具体投射。该条款被删除，意味着自主智能体在目标识别、威胁判断、响应决策等环节的自动化空间显著扩大。从技术演进视角看，这种调整并非简单“去安全化”，而是将系统信任基准从“人的最终把关”转向“算法的自主可靠性”。后者在工程实现上难度更大，也更容易受到数据投毒、模型漂移和对抗性攻击的影响。

对通信行业而言，这一风险传导链条同样清晰。5G/6G核心网络正在引入AI原生的自配置、自优化能力，算力网络与智能调度深度耦合，未来网络将由大量AI智能体协同驱动。如果国际治理框架弱化人类审查环节，民用AI系统中的类似机制也可能在“放松管制”的导向下被重新审视。网络可靠性所依赖的人工审计流程、异常复核机制、故障人工介入规则，都将面临不同程度的重构压力。

#### 02 大国博弈与规则弹性：治理缺口如何形成

美俄外交官在此次联合国会议上的协同动作，表面上与两国在科技领域的激烈竞争形成反差，但放在国际治理博弈的逻辑中并不难理解。有分析指出，大国在AI治理上往往存在一种“规则弹性”心态：既希望通过国际规则约束竞争对手，又不愿让规则限制自身技术优势和战略灵活性。这种心态的直接结果，就是在关键条款谈判中，共识性立场容易让位于利益计算。

这也使得联合国框架下AI治理的碎片化风险持续上升。欧盟在AI分级监管上持续推进，中国通过发布全球治理倡议主张发展与安全并重，美国则试图联合盟友构建高标准的技术治理联盟。各方在伦理原则层面存在广泛共识，但在“人类审查是否强制”等具体条款上，立场分歧明显加大。此次人类审查条款被删除，暴露的正是这种分歧在谈判桌上的实际后果。

治理缺口的形成，对跨国通信企业的影响不容低估。AI安全标准的国际协调本就面临多种规则体系并存的问题——跨境数据流动、模型审计、供应链安全等环节都需要统一的基准。联合国层面的治理弱化，将放大各国监管政策的差异性，使企业在合规投入和技术路线选择上面临更高不确定性。尤其是那些在多个司法辖区提供AI基础设施服务的运营商和设备商，将不得不为并行且可能冲突的标准分别构建合规能力。

#### 03 全球治理变局下的中国立场与产业空间

在全球AI治理规则摇摆不定的背景下，中国在官方层面持续给出确定性信号。中国曾向联合国提交《关于规范人工智能军事应用的立场文件》，主张各国应确保对AI军事应用的有效控制；在2023年发布的《全球人工智能治理倡议》中，亦明确强调人工智能应始终处于人类控制之下，确保“智能向善”。这一系列主张与此次联合国条约中人类审查条款被删除的动向形成对比，也为国际治理讨论保留了重要的规则锚点。

产业层面，这一确定性立场正在转化为具体的竞争方向。近年来，中国通信企业在AI基础设施、算力网络和智能运维方面加快布局，同时将安全能力前置到产品设计阶段。大模型安全评估、AI对抗性测试、可解释AI等细分方向，正从科研课题走向工程化应用。如果国际治理规则进入一个相对模糊的周期，安全能力扎实、合规意识领先的企业，反而有望在下一轮全球竞争中赢得更多信任份额。

#### 04 AI自主权上升：数字基础设施的三个规则重构

人类审查条款被删除，表面上是军控谈判的技术性调整，但其深层影响将覆盖所有与AI深度耦合的产业领域。未来数年，围绕AI自主决策权的讨论将从联合国议事厅延伸至各国监管机构、标准组织和企业实验室。通信产业作为AI最大的集成应用场景之一，将直接面对至少三个层面的规则重构。

首先是技术标准层面。现有AI安全标准大多以“可审计、可追溯”为基本前提，人类审查正是实现可追溯性的关键制度设计。这一环节一旦弱化，民用AI系统的标准框架也需要相应调整，可解释性与透明性将更多依靠技术工具实现，而非流程管控。6G研究已将“AI内生”作为核心课题，网络感知、资源调度、安全保障等关键功能都将由AI智能体自动完成。网络运营者必须回答的问题是：当AI自主决策扩大到影响网络可用性的层面，人类应在哪个环节介入？答案将决定未来网络架构的信任模型。

其次是责任归属层面。当AI自主权扩大，安全事件的责任认定将更复杂。算法提供方、数据运营方、基础设施方之间的权责边界，需要新的规则来界定。对于电信运营商而言，一旦AI驱动的网络优化或故障自愈产生预期外后果，责任链条将横跨设备商、软件供应商与运营方，现有商业合同和监管框架很难覆盖这类新型风险。

更关键的是信任基础层面。AI系统的用户信任建立在可预见性之上。治理规则的松动可能加剧公众担忧，进而影响AI技术在关键基础设施中的部署节奏。要让AI真正成为数字经济的可靠底座，行业需要在开放应用与可信安全之间建立新的平衡——这种平衡无法单靠技术实现，还需要一套经得起国际比较的规则体系。

#### 05 规则重塑期的确定性与不确定性

从当前全球数字安全治理的整体格局来看，此次联合国AI武器协定调整或许只是一个开始。自主智能体的监管边界，将长期与大国技术竞逐、产业利益和安全诉求交织在一起。对于通信行业而言，准确理解这场博弈的走向，不是可有可无的政策研究，而是关乎下一代网络架构选择、安全投入方向和全球市场布局的现实命题。

中国通信产业在AI基础设施上已经形成规模优势，在安全治理上也有清晰的原则立场。面对国际规则进入重塑期的窗口，以确定性的安全战略应对不确定的全球环境，既要求产业界拿出更具前瞻性的安全设计，也为中国方案参与全球数字治理提供了新的空间。人类审查条款的撤除，并不等于人类监督的终结——真正的监管能力，最终将体现在每一个网络节点、每一套算法模型和每一次智能决策的底线约束之中。