四川
特朗普近日在军事人工智能领域明确表态，强调在不影响宪法赋予的指挥链前提下，加快推进相关技术的应用。6月5日，他发布了一份国家安全人工智能备忘录，指示五角大楼加速采用先进系统，同时确保这些系统的可靠性、可控性和责任追溯性。备忘录还要求五角大楼在90天内更新关于武器系统自主性的指令，确保人工智能遵循作战授权和指挥链。
核力量体系是这一承诺的关键测试场。华盛顿已在政策层面做出决定。2022年《核态势评估》明确，美国将在涉及总统核决策的关键行动中保留“人在回路中”的机制。国会在2025财年国防法中进一步强化这一原则，强调人工智能不得削弱在执行总统核武使用决定时“必须由人类作出明确行动”的要求。尽管这一规则强有力，但具体实施机制仍需落实。
“人在回路中”指明了决策应由谁作出。软件架构的设计将决定高风险行动能否在没有人类决策的情况下推进。
核指挥系统的设计目标是在遭受攻击时保持运作，并在极端压力下快速传递信息。人工智能将加速这一信息流动。但风险在于，软件可能过于激进地压缩从预警到建议的路径，尽管图示上仍有人类检查点，但实际中，人类可能已失去对整个过程的控制。
随着人工智能深入预警、通信、传感器融合、选项生成和决策支持，真正的威胁并非某个聊天机器人突发导弹攻击。更现实的问题是：自动化功能之间相互传递建议，时间线不断压缩，置信评分被当作事实，名义上的人类检查点到来时，系统已限定了选择范围。
解决之道在于将人类权威嵌入技术条件中。任何与核决策链条接触并启用人工智能的组件，都应置于外部授权层之下。该授权层不可被模型自行改写或“说服”。决策支持功能可以以机器速度汇总预警数据、生成选项，但进入受保护的行动类别时，必须有一个独立、明确的人类授权令牌，并且该令牌需绑定到具体授权人、明确行动内容以及较短的有效期限。
该授权层还应采用“默认关闭”的失效模式。如果授权过期、通信不清或系统无法核验授权人，受保护行动应中止，而非沿用旧许可。每次试图越过这一边界的操作，应生成不可篡改的记录，显示申请内容、适用规则、授权人及软件后续操作。
这并非天方夜谭。五角大楼现行指令已要求系统在使用武力时保留适当的人类判断。特朗普的新备忘录则要求更新指令，以适应快速发展的人工智能技术，维护指挥链。
这次更新是将政策原则转化为验收标准的良机。项目办公室应要求承包商证明：在实际故障条件下，无有效人类授权，受保护行动无法执行。审计人员应能重建每次越界尝试的过程。操作人员也应明确哪些功能可由人工智能独立完成，哪些环节会强制机器停下。
美国在军事人工智能领域的快速推进是必要的，特朗普的要求是有道理的。只有在软件将信息转化为行动的关键节点上，政治权威依然清晰，速度才真正具备战略价值。对于核指挥与控制体系而言，“人类仍然负有责任”不应仅仅是政策声明。软件本身必须设计得无法违背这一原则。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
