AI帮美军选目标太快！人类来不及判断，学校被炸100多孩子死了

随着人工智能在军事目标识别和打击建议中扮演更重要的角色，人为干预的时间正在缩短。多名证人17日在美国国会指出，仅靠人类作出最终批准，未必能确保人工智能辅助决策始终受到有效的人为控制。这种担忧不仅限于能自行选择和攻击目标的武器。

在“军事领域人工智能：对人权的影响”的听证会上，多名证人向汤姆·兰托斯人权委员会成员表示，人工智能可能影响导致实施打击的人类决策，尽管最终决定者在形式上仍需承担责任。乌克兰人工智能治理研究人员安娜·米希申对议员们说：“一个简单的批准按钮，并不意味着存在真正的控制。”

五角大楼正在推动利用人工智能加速军事决策，这一问题因此受到更多关注。其2023年人工智能应用战略将“快速、精准且具韧性的杀伤链”列为目标；2026年战略则强调，应围绕现有人工智能能力重新设计军事工作流程和作战概念，打造一支“人工智能优先”的作战力量。

米希申质疑，一名负责监督多个人工智能辅助系统的人员，是否能在伤害发生前及时识别错误建议并进行干预。她以乌克兰为例，指出人工智能已经将部分决策时间从数小时缩短到数分钟。她补充说，在许多情况下，即便由人作出最终决定，决策者也可能缺乏足够的信息、时间或质疑系统建议的能力。

美国国防部2023年发布的武器系统自主性指令要求，自主和半自主武器必须使指挥官和操作人员能够就武力使用作出适当程度的人类判断。17日的听证会关注一个更广泛的问题：如果人工智能在目标选择上的速度快于人类核验速度，这种人类判断是否仍有实质意义。

国际组织美国分会政府关系与倡导事务全国主任阿曼达·克拉辛警告说，人工智能可能通过压缩军事“杀伤链”使人们难以确定打击前是否进行了有意义的人类辨识和判断。前军官、军事伦理学者约瑟夫·查帕认为，讨论不应只聚焦于系统的自主程度。他敦促政策制定者考察人工智能系统是否依赖统计推断，以及系统在特定作战环境中失效时会发生什么，事后能否对其决策进行审计。

查帕指出，统计型人工智能系统的失效方式可能与传统软件不同。例如，输入数据的微小变化可能导致输出结果的显著差异。系统越复杂，事后重建某项具体建议的生成过程就越困难。他呼吁在军队内部加强人工智能教育，包括为负责目标选择和情报系统的人员提供专门培训。

证人们还指出了一个更大的问责难题：当人工智能辅助决策导致平民伤亡时，责任应如何界定。美国国防部于2022年制定《平民伤害减缓与应对行动计划》，设立平民保护卓越中心，作为分析和培训枢纽。联邦法律要求五角大楼运营该中心。

国防部监察长今年5月的审查发现，该部门在落实平民伤害框架方面存在人员流失或被调任、平民伤害数据管理平台经费终止，以及一个高级指导委员会未能继续召开会议等问题。克拉辛指出，这对人工智能问题尤为重要，因为军方目前识别人工智能是否可能导致不当锁定平民目标的能力有限。

美伊战争第一天，一枚“战斧”巡航导弹击中伊朗南部米纳卜的沙贾雷·塔耶贝小学。联合国和伊朗官员称，袭击至少造成168人死亡，其中100多人未满12岁。国际组织对卫星图像的分析显示，该校舍距一处长期存在的伊斯兰革命卫队海军设施不足100码。2013年至2016年间，一堵围墙出现之前，学校所在地曾位于伊斯兰革命卫队营区范围内。

事件发生后，美国军方调查人员表示，这次打击很可能由美军实施。但五角大楼至今仍未公开调查结论。2026年3月2日，伊朗米纳卜一所学校遭袭后，人们为遇难者准备墓穴。克拉辛建议，五角大楼应在《国防授权法》第1057条要求提交的年度平民伤亡报告中，加入有关人工智能参与情况的信息。现行报告要求说明减缓平民伤亡的措施和相关调查，但并未明确要求国防部说明人工智能是否促成某一事件。

卡内基国际和平基金会高级研究员费尔德斯坦说，五角大楼应收集军事行动数据，并开展行动后复盘，以判断人工智能辅助系统是否准确识别预定目标，以及相关错误是否造成平民伤亡。费尔德斯坦说：“一个更大的问题是，五角大楼在多大程度上收集数据，并核验这数千次打击中所有目标的准确性？”

费尔德斯坦同时警告，不应将人工智能本身视为所有潜在问题的根源。人工智能可用于协助核验情报、识别图像变化，并为应对无人机和弹道导弹等威胁的防御行动确定优先次序。但米希申表示，如果一个受人类影响的系统建立在这样的假设之上，即某些人口特征使一个人成为合法目标，那么人工智能不会纠正这一根本前提。

费尔德斯坦同样提到，人类会在人工智能系统投入使用前设定规则。他说，如果指挥官认定，为实现某一军事目标可以接受特定程度的平民伤害，那么机器便是在一个由人类界定的框架内运作。当系统运行速度快到人们无法对建议作出有意义的评估时，这一挑战尤其突出。

委员会在17日的听证会开始时提及伊拉克的一起案例。2004年，美国陆军班长尼克·埃利森在基尔库克执行人口普查巡逻任务时，遇到两名年轻男子从一辆汽车内用机枪射击。埃利森与其中一人对视后，看到了对方脸上的惊慌，于是命令士兵停止射击。后来发现，这两人是一名刚结婚新郎的兄弟，开枪是为了庆祝婚礼。

米希申说，测试应考察系统是否存在偏见、是否可靠、能否保护平民、在真实时间压力下的表现、操作人员能否中断系统，以及人工智能系统整个生命周期内的决策是否能够追溯。查帕表示，一些人工智能系统可能难以在事后审计。人权观察组织的黛博拉·布朗则称，有关军方使用人工智能的信息，往往通过调查报道和举报人披露，而非政府主动公开。

多名证人表示，日益严峻的挑战已不再是让机器扣动扳机，而是批准扣动扳机的人，是否拥有足够的时间、信息和权限，在灾难发生前作出有意义的选择。