采用以人为本的方法发展与使用人工智能：ICRC东亚代表处主任史德林在世界互联网大会乌镇峰会的讲话

11月8日，红十字国际委员会主席中国事务个人特使、东亚地区代表处主任史德林应邀出席2025世界互联网大会乌镇峰会，并在人工智能技术创新与治理论坛上发表讲话。

图片来源：主办方

采用以人为本的方法

发展与使用人工智能

尊敬的来宾，

女士们、先生们，

首先，感谢主办方邀请红十字国际委员会参加本次论坛，能够在此就发展与使用人工智能与各位分享来自人道视角的观点，我深感荣幸。

红十字国际委员会是一个公正、中立和独立的组织。自1863年以来，红十字国际委员会的唯一目标就是确保武装冲突和其他暴力局势下的受影响民众获得人道保护与援助。

那么，红十字国际委员会这样一个人道组织，为什么要讨论人工智能呢？

简单来说，人工智能的快速发展为人道部门带来了重大机遇，但也带来了新风险。

红十字国际委员会致力于探索人工智能的进步是否能够、如何能够、以及在何时何地能够帮助我们实现人道使命。同时，对于人工智能为身处冲突或其他暴力局势中民众的生命和尊严带来的风险，我们也深感有责任加强理解并减轻此类风险，并倡导相关方负责任地使用人工智能。

人工智能对人道组织有诸多潜在益处。例如，红十字国际委员会开发了自己的聊天机器人，便于工作人员获取信息和起草报告。以人工智能为基础的视觉识别技术能够对自战区回收的文件照片、军人身份牌和书面报告进行分析，如今已经用于识别失踪的平民和战斗员。此外，目前正在进行测试，将人工智能用于优化援助物资的运输路线，改善分布式网络的资源分配，并支持情景规划和模拟推演。

与此同时，如果使用不完整、过时、错误或含有偏见的数据训练人工智能系统，可能会产生错误预测和不当决策。这可能会导致某些群体的代表性过高，同时对特定种族、国籍、性别或年龄群体产生偏见，阻碍他们获得援助，甚至让他们面临更大风险。对于本就在冲突和危机中艰难度日的社区而言，这种风险不可接受。

另外，红十字国际委员会也在评估交战各方发展和使用人工智能所带来的风险，这些风险塑造了我们开展行动的环境。例如，生成式人工智能和其他数字技术显著加快了有害信息的传播，从而加剧社会分化，削弱人道工作者得到的信任、接受与安全保障，并增加平民遭受伤害的风险。

2024年，红十字国际委员会发布了人工智能机构政策，为本组织探索利用人工智能助力实现人道使命提供了指导。这一政策旨在确保本组织上下使用人工智能时始终做到负责、安全且协调一致，最重要的是，以人为本。

点击图片，了解红十字国际委员会人工智能机构政策

通过采用以人为本的方法，红十字国际委员会维护一个简单但有力的原则：技术必须服务于人类。无论人工智能系统如何进步，事关民众生命、权利和尊严的决策必须始终掌握在人类手中。虽然人工智能有助于提高人道工作的效果，但它无法取代人类的判断力、同理心与责任感。

作为人道组织，与受影响民众保持并加强近距离接触和亲近感非常重要，这会帮助我们建立信任，以响应不断变化的各类需求。人工智能无法取代人与人之间的沟通互动。因此，红十字国际委员会在使用与发展人工智能解决方案时，特别注重确保这不会削弱人与人之间直接沟通、展示人道关怀和同理心的能力。

与此同时，遭到滥用或设计不当的人工智能可能会加剧歧视、引入有害偏见、甚至催生出新的排斥形式，对已经饱受苦难的社区造成更深重的伤害。

正因如此，红十字国际委员会始终坚持审慎使用人工智能，仅用于其真正能够带来价值的领域，确保解决方案公平、透明，并力求遵循人道部门长期坚持的“不伤害”原则。

图片来源：主办方

女士们、先生们，

我们正面对着一个变乱交织的世界，安全失序、发展失衡和治理失效日益突出。目前，红十字国际委员会统计的全球武装冲突数量已超过130场，这一数字在过去15年中增长逾倍。许多冲突伴随着激烈的暴力，广泛的破坏和对人道援助的限制。

作为人道组织，红十字国际委员会无法制止冲突。但是为了有效援助武装冲突中的民众，红十字国际委员会必须首先评估当前及未来短期内武装冲突发展所带来的影响。

事实上，将人工智能融入军事行动已经引发了许多法律、伦理和人道关切。例如，人工智能辅助决策支持系统正以超越人类认知能力的方式，影响着武装冲突中选择攻击目标的军事决策过程并加快决策速度，而这可能会带来决策质量的下降。同时，自主人工智能体能够在短短几秒钟内对民用服务发动复杂网络攻击，这将大幅减少发现并防止此类攻击的响应时间。另外，未来若使用自主武器系统，会出现适用目标范围更广、使用时间更长以及人类干预机会更少的情况。

为了应对这些问题，红十字国际委员会今年向联合国秘书长提交了一份立场文件，阐释本组织的观点并呼吁制定明确规则，限制或禁止自主武器系统。

本组织坚定不移地秉持一项原则：无论自主武器系统的技术如何精进，人类必须掌握最终控制权。

女士们、先生们，

2023年，在会见红十字国际委员会主席米里亚娜·斯波利亚里茨时，习近平主席强调“中国始终是国际人道主义事业的积极拥护者、参与者和贡献者。”

今年适逢红十字国际委员会东亚地区代表处在北京成立20周年。

中国是具有重要国际影响力的大国，也是红十字国际委员会的全球主要采购中心之一，红十字国际委员会正在深入理解中国对国际合作、发展、武装冲突与和平的观点。与此同时，红十字国际委员会正在扩大与中国的各领域合作，尤其是技术部门的合作。借助世界互联网大会等重要平台，红十字国际委员会正积极加强与中国技术部门的沟通接触，探索使用中国人工智能和其他技术解决方案为人道行动提供支持的可能性，并就其负责任的使用与发展方面促进对话沟通。

女士们、先生们，

人工智能正在重塑世界，速度超出想象。对红十字国际委员会来说，我们的选择清晰明了：人工智能必须始终服务于人类——守护尊严、保全生命，并且绝不能取代人类悲悯之心这一人道行动的核心。这就意味着，我们要积极采纳能够加强人道行动的创新技术，但坚决抵制削弱人类控制、问责机制或悲悯之心的使用方式。这也意味着，我们要与中国在内的全球合作伙伴携手共建规则与保障机制，让人工智能成为保护之力，而非伤害之源。

谢谢大家。

01

●出版物甄选 | 《红十字国际委员会的人工智能政策》

02

●红十字国际委员会举办专题讨论 聚焦人工智能在武装冲突中的运用

03

●活动预告 | 从国际人道法到人道行动：探索通向和平的路径

04

● ICRC在华二十年 | 高层访华 持续推动与中国战略合作

红十字国际委员会