美空袭伊朗小学，炸死156人120儿童，人工智能疑似帮凶挑错目标？

美空袭伊朗小学，炸死156人120儿童，人工智能疑似帮凶挑错目标？

日新说Copernicium

据《中东之眼》9月2日报道，世界曾禁止地雷和集束弹药，能否在为时已晚前阻止“杀人”人工智能？随着自主武器降低战争门槛、加剧平民伤害，活动人士正加紧推动限制这类“为杀戮而设计”的系统。

在战争史上，杀戮机器总是留有一定的人类干预空间。士兵面对敌人时，可以选择致残而非杀死对方；飞行员在识别目标后，可以质疑情报并决定是否实施打击。然而，技术正在改变这一切。自主武器系统如今可能彻底剥夺人类对冲突中武力使用的实质性控制。

以色列首先在其被称为对加沙实施“种族灭绝”的战争中部署人工智能辅助瞄准系统，随后又将其用于伊朗。美以对伊战争爆发后的头24小时内，超过1000次打击接踵而至，速度前所未有，显示自动化系统可能已被投入使用。过去13年，全球联盟“制止杀手机器人”一直致力于阻止这一前景，推动各国禁止能够在无人监督下自行选择并攻击目标的机器。

“制止杀手机器人”执行主任妮科尔·范鲁伊延告诉中东之眼：“这些系统本就是为杀戮而设计，因此不再有制衡机制。”“如果一个系统被设计为杀人，它就会杀人。这本身就有问题，因为结果高度取决于输入机器的信息类型。”

范鲁伊延以2月28日美国空袭伊朗米纳卜市沙贾雷·塔耶贝小学为例。这次袭击造成156人死亡，其中包括120名儿童。现有证据显示，美军击中了这栋毗邻伊朗伊斯兰革命卫队营地的建筑。这是迄今为止美以对伊战争中伤亡最惨重的一次袭击。

范鲁伊延说：“初步信息显示，这是一次美军打击，也显示原因在于向机器输入了过时的情报。”“如果信息不准确或已经过时，地面上就会出现毁灭性后果，无辜平民最可能受害。尤其在局势动荡的环境中，当你正在进行敌对行动，却没有地面人员确认机器想要攻击的目标时，风险更高。”

她指出，另一个重大问题是准确性。从事人工智能及其融入军事杀伤链研究的专家估计，系统可靠性介于25%至50%之间。“而且这还是最理想的情况。”她补充说，“可以把它类比为地毯式轰炸。”

“制止杀手机器人”还警告说，自主武器系统会“大幅”降低发动战争的门槛，因为其使用不需要部署军事人员。范鲁伊延说：“没有人愿意看到本国士兵死在异国土地上，这会形成一定约束。派遣自己的人上战场前，人们会再三考虑。”

“如果一切都自动化了，你只需派出机器。以色列和美国数十年来一直威胁伊朗，却从未真正动手。这并非巧合……这会给人一种错误感觉，以为可以迅速行动，然后以胜利者姿态归来。”“但所谓更准确、更精确，不过是虚假的承诺。结果对其军队而言未必更糟，对地面平民却更糟，他们承受了最沉重的代价。”

目前，各方对何为自主系统尚无统一且得到共同认可的定义。也没有条约对这类系统的研发、测试、销售或部署作出规范。范鲁伊延说，这为科技巨头创造了“自由竞争”的军备竞赛条件，使其能从“人们的痛苦中”牟利。

她尤其难以理解为何缺乏相应保护措施。她说：“测试一架新飞机或一辆新汽车时，设立的护栏都比把人工智能纳入杀伤链更多。”回顾历史，在各国尚未习惯于将某种武器视为战争不可或缺的一部分之前，曾有先例成功阻止其扩散。

倡导制定自主武器系统条约的人士中，包括人权观察组织高级武器顾问邦妮·多彻蒂。她曾在促成2008年《集束弹药公约》谈判的过程中发挥核心作用，该公约禁止使用集束弹药。多彻蒂告诉中东之眼，围绕自主武器系统的斗争遵循同样的人道裁军原则，旨在避免武器给人类造成苦难。多彻蒂表示，把个体简化为数字、将“生死决定”委托给机器，是“极其令人担忧”的事情。

她说：“自主武器系统是一台机器，而机器无法真正理解人的生命价值。赋予机器杀人的权力，在伦理上并不合适。任何夺取生命的人，都应能理解这一行为的重要性。”

人权观察组织收集的证据还显示，这些系统可能复制或放大算法偏见，并造成致命后果。多彻蒂说：“我们研究了歧视问题，尤其关注种族、性别和残疾。例如，在残疾问题上，人工智能可能难以区分手杖和枪支。”

不过，美国、以色列、俄罗斯等国家不愿放弃可能赋予自身优势的武器。多彻蒂说，这种说法早已陈旧。其背后还有科技行业兜售自身商业利益。她说，在集束弹药条约谈判期间，她也听过同样的论调：各国希望保留正在研发的技术，并称现行国际人道法已经足够。

多彻蒂说，当年的转折点是以色列2006年在黎巴嫩南部大范围使用集束弹药。大量子弹药至今仍散落在当地，已造成数百人死伤。她说：“我感觉像是在经历似曾相识的一幕。许多论点只要把武器系统名称替换一下就行。”

上周，联合国秘书长和红十字国际委员会主席再次呼吁制定自主武器系统条约。3年前，他们曾敦促各国在2026年前建立相关规则。如今，随着这一期限变得“无法实现”，他们警告说，世界正迅速接近一条“道德红线”。

此次再次呼吁之际，红十字国际委员会怀疑，在从防御行动到进攻行动、包括人口密集地区的多种冲突中，越来越复杂的自主功能正在被整合进武器系统。红十字国际委员会法律顾问乔治娅·欣兹告诉中东之眼：“虽然我们很难核实……但我们看到，在许多冲突中，自主功能正越来越多地融入武器系统，从先进军事能力到被改装的现成商用系统都是如此。”

11月，各国将齐聚日内瓦，参加每5年举行一次的《特定常规武器公约》第七次审议大会。这场会议可能成为该运动的转折点。负责处理自主武器相关新兴技术问题的联合国主要政府间平台——致命自主武器系统政府专家组——一直在起草文本，其中包括禁止部分系统、限制另一些系统的内容。

该小组本周将举行最后一次会议，其工作成果随后将提交即将举行的审议大会。活动人士希望，这能最终转化为针对具有法律约束力条约的正式谈判。欣兹说：“现在要把它变成具有约束力的文书，确实不需要太多额外工作。11月必须作出决定，启动正式谈判。”

“政府专家组的讨论已持续近13年，如今再把讨论简单延续下去，是不可接受的。对我们而言，11月实际上只有一个选择。”如果各国达成一致，条约可能在数月内出台。首选、也是最快的路径，是在《特定常规武器公约》框架下谈判通过一项附加议定书。不过，欣兹等专家怀疑这一路径的现实性。她说，审议大会并非简单地作出“是”或“否”的决定，推动这项运动仍有多种方式。

她补充说，总体目标是抢在技术发展之前采取行动。随着自主武器扩散，任何人——包括不受法律监督的武装团体——都更容易将廉价商用技术改造成致命的自主武器。

欣兹说：“这些系统扩散的机会越多，改装一个市售系统就越容易……而且，它们也很可能被不受那些较为规范的调查机制约束的非国家行为体使用。”“这些因素都会进一步加剧我对问责问题的担忧。所以，这是一项重大风险。”

作者：格尔加娜·克拉斯特娃