演讲 | 人工智能、伦理与武装冲突

9月5日，为期两天的以“AI时代的人道行动：连接与韧性”为主题的第四届东吴国际人道论坛在苏州开幕。

在主论坛上，红十字国际委员会东亚地区代表处人道事务与政策主管菲奥娜·巴纳比就“人工智能、伦理与武装冲突”为题发表了主题演讲。

各位阁下，
女士们、先生们：

首先，请允许我感谢中国红十字会、中国红十字基金会、红十字国际学院、红十字会与红新月会国际联合会以及中国红十字会的慈善领域合作伙伴，共同举办以“人工智能时代的人道行动：连接与韧性”为主题的第四届苏州国际人道论坛。

今天，我想谈谈人工智能、伦理与武装冲突。

正如红十字国际委员会主席米里亚娜·斯波利亚里茨近期在一次公开发言中所示：现实已不容忽视——我们正处在一个被战争定义的十年。

结合本次论坛的主题，我想进一步补充：我们正处在一个将被人工智能定义的十年。

日益数字化和互联的世界为社会、经济、发展、人道、信息及通信领域带来了机遇。这一进步

• 可以在武装冲突中帮助拯救生命，改善生存条件。

• 可以为受影响人群提供物资和服务，比如医疗服务；帮助社区获取能挽救生命的重要信息，并在武装冲突中重建或维持家庭联系。

红十字国际委员会的中央寻人局和家庭联系网络正利用数字工具来帮助家庭团聚。“寻找面孔”（Trace the Face）就是这样的一项举措，在这个网站上，寻找失踪亲属的人可以上传和查看照片，以便相互找到对方。

毫无意外，数字技术的进步持续带来诸多益处，也让不愿落后于时代的人道工作者唯恐错失良机。然而，这些技术进步也为受冲突影响的人群及试图帮助他们的人道组织带来了若干风险。我列举三个趋势：

• 用于网络行动的人工智能针对平民或民用基础设施发动袭击，破坏此类基础设施提供的基本服务。

• 冲突环境中有害信息的传播（例如利用“深度伪造”技术制作逼真却虚假的音视频内容），可能对受冲突影响人群造成严重冲击，引发流离失所，加剧冲突激烈程度，其后果远不止于此。

• 人工智能被用于支持军事决策，包括在无人工干预的情况下操控战争。

随着全球各地的民众日益依赖数字和电信网络获得基本服务、联络家人以及寻求帮助，武装冲突中日益频发的网络中断令人越发为民众的安全和尊严感到担忧。详见：

根据近期新闻报道，某参与持续冲突的武装力量开发的人工智能系统，在特定区域内识别出多达3.7万个潜在打击目标。这种技术看似具有惊人效率，仿佛能最大化军事资源利用率。但弊端在于，该程序本身设定了10%的误差容限，即3700名不应被列为目标的对象可能遭受打击；更令人担忧的是，攻击授权竟因程序将特定数量平民依据其社会等级划分为"可接受"的附带损伤而被批准，或得到合法性认定。

人工智能技术不仅加速了战争节奏，更看似"增强"或“改善”了攻击中的国际人道法合规性。

欢迎来到数字化、高速化、自动驾驶模式的战争新纪元。

事无善恶，思想使然。
人工智能本身无对错，是人类的思维与抉择赋予了其价值属性。

事实上，人工智能的价值无法通过简单的二元对立思维来体现。人类开发人工智能，并决定在武装冲突中何时以及如何使用该技术。因此，红十字国际委员会认为，任何新技术，以及任何新武器，都必须符合人道规则或伦理。

规制各方战争行为的规则并未就人工智能、自主武器或数字空间做出具体规定。就此而言，历经时间锤炼的战争规则，即国际人道法，涉及三个特定作战领域——空中、海上和陆地。随着时间的推移，随着新领域（如外层空间、数字空间甚至低空空间）的出现，红十字国际委员会的信条始终如一：国际人道法适用于任何空间中使用任何武器或作战方式，不存在治理或监管的空白。

没有黑洞、灰色地带或不受管制空间。这些规则和伦理力求在武装冲突中维护人性微光，无论武装冲突发生在何领域，无论使用何种数字工具，它们都持续适用。因此，关于如何作战的伦理或规则是“技术中立”的，即使技术本身并非中立。

因此，红十字国际委员会与技术利益相关方，无论是开发者、用户、公司、从业者、爱好者、倡导者甚至反对者，就人工智能和技术的潜在影响进行交流，特别是对受冲突影响的人群和人道行动的影响。

随着数字领域以闪电般的速度发展，人道组织面临的挑战是确保我们被视为中立、独立的人道行动者，并以此身份参与其中。如果数字连接与韧性是地缘政治博弈的一部分，人道工作者就必须妥善应对其在准入、资金及接纳等方面对国家、捐助方和受影响群体的依赖，确保我们能够以中立和独立的方式持续工作。

为此，红十字国际委员会于2024年通过并发布了人工智能政策。这份政策文件将作为愿景工具，支持委员会负责任地使用数字技术并符合我们的人道使命。

扫描二维码
即刻开启阅读

该政策确立了基于价值观的人工智能使用方法，涉及人道原则（人道、公正、中立、独立）以及赋能和学习，旨在促进合乎道德和有影响力的创新以及竞争力和能力建设。该政策还介绍了使用人工智能技术指导原则，包括比例原则、预防原则和“不伤害”原则，安全和安保，透明度与“可解释性”、责任制和问责制。总结如下：

• 数字空间并非法外之地，包括在武装冲突期间。

• 国家、科技公司和其他行为体最有条件确保负责任和符合伦理地使用人工智能。中国的全球人工智能治理倡议就是一个很好的例子。

• 它们有能力且应被鼓励打造符合国际人道法及人道原则和伦理的数字工具，尤其在武装冲突中。

• 保护平民免受数字威胁需要在立法、政策和实践层面的投入。这符合去年红十字与红新月运动第34届国际大会上通过的关于武装冲突中信息通信技术的决议。

• 数字技术，如人工智能，在人道领域具有广泛应用的潜力。红十字国际委员会及该领域的其他组织应该且可以在坚守其人道原则的前提下，负责任且合乎伦理地探索人工智能。

数字技术本身并无善恶之分，赋予其善恶的是我们——开发者、用户、消费者。

本届东吴论坛由中国红十字会总会、苏州大学主办，中国红十字基金会、红十字国际学院承办，红十字会与红新月会国际联合会、红十字国际委员会支持。

来自联合国、无国界医生等国际组织和15个国家红会，中国红十字会总会及各地方分会，相关政府部门、社会组织、企业、高校负责人出席论坛并进行研讨交流。

本文转自“ 红十字国际委员会 ” 微信公众号