四川
7月7日，联合国秘书长安东尼奥·古特雷斯在日内瓦首届人工智能治理全球对话上说出了那句话："有些决定必须永远保持人性，没有比夺走人的生命更甚的了。"
他呼吁联合国193个成员国单方面禁止在战场上使用人工智能武器，并将这类技术的研发定性为"在道德上令人反感"。
这不是古特雷斯第一次发出这样的警告。早在2023年，他就已经敦促各国政府在2026年前谈判达成一项具有法律约束力的条约，限制乃至禁止完全自主的致命武器系统。两年过去，不仅条约没有着落，各主要军事大国的自主武器项目反而在加速推进。
在AI武器问题上，世界正处于一个奇特的分裂状态。
一边是越来越密集的道德警告。古特雷斯的立场得到了教宗良十四世的明确呼应，后者在近期发表的通谕中写道，人工智能在战争中的开发和使用"必须受到最严格的伦理约束"，以避免各国陷入竞相开发此类武器的军备竞赛。联合国大会此前也已有152个国家投票支持一项关于规范致命自主武器的决议，这一数字本身展示了国际社会的广泛共识。
另一边是无法被道德声明阻止的现实逻辑。支持者认为，自主武器可以在高强度战斗中辅助人类决策，并降低平民被误伤的概率，因为AI系统在理论上可以比人类更快、更准确地区分战斗人员与非战斗人员。更有力的一个论点是"道德义务论"：如果中国、俄罗斯和伊朗都在开发自主武器且不受任何约束，美国选择单方面克制，在道义上反而是对盟友和本国公民的不负责任。
这个逻辑在华盛顿拥有相当大的市场。特朗普政府上个月发布的一份国家安全备忘录，明确指责此前几届政府在AI武器研发上设置了"不必要的官僚主义"障碍，同时强调美国的竞争对手"继续开发和部署他们自己的人工智能和复杂的自主技术，在使用这些技术时几乎不顾及适当的人工监督"。
这场争论在科技行业内部同样制造了深刻的裂痕。
Anthropic是目前这场拉锯战中最引人注目的案例。今年早些时候，该公司与美国战争部就其AI系统能否用于国内监控和自主武器展开争论，Anthropic坚决拒绝了这两种用途，结果被战争部长皮特·赫格塞斯列为"供应链风险"，即正式认定其技术对国家安全构成威胁。这是美国科技公司被贴上这一标签的首例，Anthropic目前正通过法律途径争取撤销这一认定。
这不是硅谷第一次在军事合作问题上内部分裂。2018年，数千名谷歌员工联名抗议公司参与五角大楼的Maven项目，最终迫使谷歌退出了相关合同。微软因向美国陆军提供用于作战训练的HoloLens头显而遭遇类似的内部抵制。但那时讨论的还是相对边缘的军事辅助工具，而现在摆在桌面上的，是能够自主选择并攻击目标、无需任何人类干预的武器系统。
问题的本质已经不同了。
安全倡导者最担忧的并不是一个运行良好的自主武器系统，而是一个运行失控的系统。当前推动美中AI军备竞赛的动态逻辑，可能在不远的将来催生出决策过程对制造者完全不透明的武器，一旦部署，将难以被人类有效介入和制止。
古特雷斯把这个风险描述得很直接：这种情况可能比最黑暗的反乌托邦小说所能想象的还要糟糕得多。这不是在制造恐慌，而是在提醒我们，科幻电影里的噩梦之所以令人不安，恰恰是因为它们描述的逻辑终点，与我们现在正在走的路，在方向上并无本质区别。
禁令能否落地，目前仍是未知数。但这场对话本身，或许已经是阻止某种更糟糕结果的最后窗口之一。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
