北京香山论坛 | 军事人工智能的人道视角

10月29日至31日，第十届北京香山论坛在北京国际会议中心举办。红十字国际委员会高级科学与政策顾问尼尔·戴维森应邀撰写以《军事人工智能的人道视角》为题的署名文章 ，并在以“人工智能安全”为主题的分组会议上与在场嘉宾探讨了针对军事人工智能技术发展的人道考量。

军事人工智能的人道视角

今年的北京香山论坛正值地区和国际安全的重要时刻，为红十字国际委员会这样一个中立、独立、公正的人道组织提供了一个宝贵机会，分享其对当代武装冲突中所存在挑战的看法，包括对新兴技术所带来的相关挑战的看法。

就在今年的香山论坛举办两个月前，，她在会谈中强调了中国在全球人道事务中的重要作用，以及中国在促进尊重国际人道法（即战争法）方面所发出的重要声音。习主席表示，中方愿与红十字国际委员会进一步密切合作，为促进人类和平与进步事业作出重要贡献，并将继续在包括技术和人力资源等领域为红十字国际委员会提供支持。习主席的讲话受到红十字国际委员会主席的热烈欢迎。

中强调，尊重国际人道法与和平是相辅相成的——红十字国际委员会副主席吉勒·卡尔博尼耶在本月晚些时候将举行的主题为 "共同安全，持久和平 "的北京香山论坛上发表主旨演讲时，也一定会重申这一信息。

红十字国际委员会多年来一直很荣幸参加北京香山论坛，传递人道声音，扩大与中国的长期对话。从红十字国际委员会的角度来看，香山论坛是一个独特的机会，可以就包括武器影响和当前的裁军倡议等各种人道问题，与本地区内外的国家、军队和其他专家进行交流。

尼尔·戴维森（右二）在分组会议上发言。

在武器问题上，红十字国际委员会仍然尖锐聚焦评估武器对受武装冲突影响者的影响，考虑遵守国际人道法和道德可接受性问题，并最终促进政策、实践和法律澄清——或在必要时制定法律——以减少对平民和战斗人员的不利影响。

我在2019年首次参加北京香山论坛时，我们的专家小组讨论了科技发展与国际安全问题。红十字国际委员会继续做出重大努力，以应对基于长期既有技术的常规武器在武装冲突中对平民造成的严重伤害，例如通过倡导《武器贸易条约》（中国已于2020年加入该条约），推动武装冲突各方加强对平民的保护，避免在居民区使用重型爆炸性武器等。与此同时，红十字国际委员会还努力研究和应对基于新兴技术的武器和作战方法的影响，如网络和其他数字化行动、外层空间的军事行动、以及机器人和人工智能的军事应用。

可以说，自我上次访问北京以来，科学和技术领域最重要的一些发展是在机器学习方面，包括大型语言模型的快速发展——人工智能工具迅速引起了公众的关注，不仅是因为其生成文本和图像、或编写代码的能力，还因为其某些用途可能随之而来的风险。

因此，我特别高兴能参加今年论坛中关于加强人工智能国际安全管理的讨论。红十字国际委员会已提请各方注意从人道视角会看会产生重大人道影响的人工智能在武装冲突中的若干应用。例如，人工智能的某些军事应用可能会增加自主武器带来的危险，加剧网络行动和信息战对平民造成的伤害，并对人类判断在武装冲突中的关键作用产生负面影响。其中最令人担忧的是，有人建议人工智能可被用于核武器使用方面的决策指导，这就有可能加剧使用核武器的风险，造成灾难性后果。

近年来，中国发表了《加强人工智能伦理治理》和《规范人工智能军事应用》的立场文件，并在最近的《携手共建人类命运共同体：中国的倡议与行动》中表达了对 "人工智能缺乏完善治理 "的担忧。

令人鼓舞的是，中国强调人工智能应 "以人为本 "，且应遵循“人工智能为善”的原则。这与红十字国际委员会对武装冲突中的人工智能所采取的 "以人为本的方法 "相互关联——该方法的重点是基于武装冲突参与者的法律义务和道德责任来保留人类对武器的控制和判断。

红十字国际委员会的即刻关切是当今武装冲突中人工智能的高风险应用。因此，一个重要的优先事项是应对自主武器在军事上日益发展所带来的危险——自主武器指在没有人类干预的情况下选择并对目标使用武力的武器。此类武器引发了严重的人道、法律和伦理问题，而人工智能又加剧了这些问题，因此红十字国际委员会一直在敦促各国通过新的国际规则，对这些武器加以具体禁止和限制。

，要求各国在 2026 年之前完成上述有关谈判。红十字国际委员会强调，必须禁止使用直接以人为攻击目标的自主武器和不可预测的自主武器，例如由机器学习控制的武器，同时对所有其他武器制定明确而具体的限制。这与中国明确规定（必须受到禁止的） "不可接受的自主武器系统"和（必须受到规范）的 "可接受的自主武器系统"的做法相辅相成。

随着当今武器的获取及其在冲突中的使用的快速发展，红十字国际委员会欢迎中国在此方面的举措，并鼓励中国加强努力，争取地区和国际社会的支持与合作，为自主武器划定明确的法律红线，以保护现在和未来几代人。像北京香山论坛这样的论坛为寻求对话提供了一个独特机会，以支持将有效应对当代挑战的多边倡议。

红十字国际委员会非常重视与中国的持续对话，无论是通过该组织常驻北京的红十字国际委员会东亚地区代表处、还是通过常驻位于纽约联合国总部的双方相关代表机构、以及与中国常驻日内瓦使团开展对话。我个人非常期待在第十届北京香山论坛上就这些问题进行深入交流。

作者简介

尼尔·戴维森

（Neil Davison）

尼尔·戴维森是红十字国际委员会国际法、政策和人道外交部武器和敌对行为处高级科学和政策顾问。

他自2011年以来一直代表红十字国际委员会参加多边裁军讨论，领导红十字国际委员会应对自主武器和军事人工智能等新兴技术带来的挑战。

01

●红十字国际委员会呼吁加沙地区冲突即刻降级

02

●关于红十字国际委员会在以色列及被占领土所开展工作的常见问题

03

●红十字国际委员会战伤外科小组和新一批医疗物资抵达加沙

04

●《人道经济学》（中文版）出版及学术交流座谈会在红十字国际学院举行

红十字国际委员会