红十字国际委员会举办专题讨论 聚焦人工智能在武装冲突中的运用

7月4日，作为第十三届世界和平论坛的重要组成部分，红十字国际委员会与清华大学国际关系研究院联合举办了主题为“人工智能在武装冲突中的运用：挑战与机遇”的专题讨论。来自中国、美国及欧洲的专家学者、人道组织和政府代表围绕人工智能对现代战争和国际安全的影响、伦理和人道困境及国际治理等议题展开深入交流。

图片来源：世界和平论坛主办方

本届论坛7月2日至4日在北京举办，以“共促世界和平与繁荣：共担、共享、共赢”为主题，汇聚全球政要、学者及国际组织代表，共同探讨如何通过国际合作维护和平与发展。

人工智能改变战争形态，

国际人道法面临新挑战

新兴技术正在改变武装冲突的作战方式，并使其变得更加复杂。在当前快速变化的国际安全局势中，人工智能在军事中的应用不断深化，引发了全球对其合法性与人道影响的高度关注。

红十字国际委员会中国事务特使、东亚地区代表处主任史德林主持专题讨论。图片来源：世界和平论坛主办方

红十字国际委员会中国事务特使、东亚地区代表处主任史德林在开幕致辞中指出：“人工智能正在重塑武装冲突的形态，既带来变革性潜力，也带来前所未有的挑战。”他强调，国际社会需确保交战方在国际人道法框架下使用人工智能，同时确保人道部门能够利用人工智能减少对平民的潜在伤害。

人工智能正在以超越人类认知能力的方式影响并加速有关在武装冲突中将“谁”或“什么”作为攻击目标的军事决策，给平民带来额外风险。红十字国际委员会认为，各国在将人工智能用于可能对人类生命造成严重后果的任务或决策时，应保留有效的人为控制和判断。战争中的法律义务和道德责任绝不能外包给机器和软件。

北京大学国际法学院教授格雷戈里·戈登（Gregory Gordon）从法律角度剖析了人工智能系统在遵守国际人道法的区分原则、比例原则和预防措施原则方面所面临的挑战。他指出现有法律体系不足以规制人工智能系统，呼吁国际社会制定更具约束力的规则。

人工智能的双刃剑：

军事应用与人道救援

在深入探讨相关法律规定的同时，与会专家也高度关注人工智能技术在实际应用中的“利与弊”平衡，特别是在军事行动与人道援助中的角色转换。

比利时驻华大使安博宁（Bruno Angelet）指出于2024年8月1日正式生效的《欧盟人工智能法案》，作为全球首部全面监管人工智能的法规，开篇明义地指出该法案旨在“促进以人为中心、值得信赖的人工智能的应用”。安大使强调人工智能在军事领域的应用也必须“以人为本”，人类应始终对战争决策负责。

红十字国际委员会数字战争技术顾问毛罗·维尼亚蒂（Mauro Vignati）则阐述了在决策系统中使用人工智能所带来的潜力与风险。他指出，人工智能提高了决策速度，但目前人工智能系统依然存在偏差，具有不可预测性，从而会增加做出错误决策的风险。

专题讨论嘉宾（左起）：红十字国际委员会中国事务特使、东亚地区代表处主任史德林、北京大学国际法学院教授格雷戈里·戈登、比利时驻华大使安博宁、北京前瞻人工智能安全与治理研究院院长曾毅、清华大学战略与安全研究中心副主任肖茜和红十字国际委员会数字战争技术顾问毛罗·维尼亚蒂。 图片来源：世界和平论坛主办方

呼吁国际合作，

构建人工智能治理新框架

在分析人工智能带来的挑战之后，多位专家将视角转向全球治理机制的建设，认为当下国际社会在这一领域的共识仍然不足。

北京前瞻人工智能安全与治理研究院院长曾毅指出，人工智能治理面临伦理、法律、技术、军事等多维挑战，需要跨部门、跨国界的合作。例如在相关法规方面，中国同样倡导“以人为本”的治理理念，中国已经出台了关于生成式人工智能、深度合成等具体人工智能领域的相关规定，也正在推进相关指导性的政策文件，欧盟、美国和中国在这一领域可互为借鉴。

清华大学战略与安全研究中心副主任肖茜则在讨论中指出，目前人工智能的国际治理呈现“碎片化”特征，尚未达成国际共识，她强调数字时代的国际人道规范需各国协同维护。

随着人工智能的快速发展为社会——包括人道领域——带来机遇和挑战， 2024年11月，红十字国际委员会发布了其，以更好地指导红十字国际委员会利用人工智能等相关技术方面的实践和决策。此外，委员会在今年早些时候根据 “军事领域的人工智能及其对国际和平与安全的影响”的第79/239号决议提交了我们的意见，供联合国秘书长审议，以支持各国确保人工智能的军事应用符合现有法律框架，并在必要时确定可能需要采取额外法律、政策或行动措施的领域。红十字国际委员会正在与各国一道，努力支持制定管制作战手段和方法的国际人道法规则。

除学术和政策讨论外，红十字国际委员会还在现场特别设置了“数字困境”VR体验环节，使与会者更直观地理解战区民众所面对的数字技术挑战。

通过VR设备，与会者能够身临其境地体验战争环境中人们在虚假信息、数据保护、监控技术、人工智能、生物识别数据和网络连通性等方面面临的两难处境，进一步凸显了人工智能对战争现实和人道救援所带来的复杂影响。

本次专题讨论为全球人工智能治理提供了多元视角与建设性建议。与会专家一致认为，人工智能在武装冲突中的运用是未来国际安全议程的重要课题。各国应加强协作，加快制定具有法律约束力的全球性规则，确保人工智能技术始终服务于和平、人道与可持续发展，而非加剧冲突。

01

●出版物甄选 | 《红十字国际委员会的人工智能政策》

02

●加沙 | 医疗系统严重受损之际敌对行动再度激化

03

●国际人道法全球倡议——超越国界的集体承诺

04

●战争中的中立——跨越战火的生命线

红十字国际委员会