如何减少人工智能中的性别偏见？

人工智能（AI）正以前所未有的速度重塑世界，然而，在推动进步的同时，这份强大的科技力量却可能成为固化甚至加剧社会性别偏见的“隐形推手”。如果人工智能的数据来源带有刻板印象和性别偏见，而开发者对此视而不见，那么算法将进一步扩大数字领域的不公平鸿沟。

2021年，加州大学伯克利分校性别与领导力平等中心（Berkeley Haas Center for Equity, Gender and Leadership）对不同行业的 133 个人工智能系统进行了分析，发现约 44% 存在性别偏见，25% 同时存在性别与种族偏见。

那么，我们该如何在人工智能产品开发和应用过程中，最大程度地减少性别偏见呢？

什么是人工智能带来的性别偏见？

我们为什么需要重视它？

人工智能模型通过算法处理海量数据，使计算机能够比人类更高效地完成复杂任务。人工智能性别偏见可以理解为：人工智能学习了带有偏见、不全面的数据，按照性别给人“贴标签”，做出缺乏客观性的决策。

想象一下，人们用过去的招聘案例训练人工智能系统。如果这些案例带有有意或无意的偏见，比如总是呈现男性科学家或女性护士，那么系统很可能会推断出男性和女性“更适合”某些特定角色，并在筛选简历时带有倾向性。

当应用于医疗领域的人工智能系统只由男性开发，并且使用的训练数据主要来自男性时，如果女性使用这类系统诊断疾病，就有概率会得到不准确的结果，因为人工智能并不了解女性可能呈现的不同症状。

2018年，亚马逊下架了一款AI招聘工具，因为它偏好男性的简历，对包含“女性”一词的简历进行降分。多家企业的图像识别系统也被发现难以准确识别女性，尤其是有色人种女性，这种误识别不仅会限制机会和多样性，还可能在执法和公共安全领域引发严重后果。

难以准确识别女性的人工智能系统 ©UN Women

当训练数据和模型设计固化性别刻板印象时，“生成式AI”更易输出歧视性内容。如果偏见驱动的技术被滥用于深度伪造、换脸、网络跟踪或操纵舆论，不仅侵犯女性的隐私与安全，也削弱她们在公共空间的参与权。

那么，我们如何减少人工智能系统中的性别偏见，确保其伦理性和包容性？

尽管全球女性的互联网接入率逐年提升，但直到2024年，低收入国家仅20%的女性能够使用网络。这种数字鸿沟不仅造成数据缺口，更在人工智能系统中形成了明显的性别偏见烙印。

根据2024年全球性别差距报告，全球 STEM（科学、技术、工程和数学）领域仅有28.2%的女性工作人员，女性高管的比例更是不足13%。

缺乏女性数据和女性视角，是导致人工智能系统存在性别偏见的关键原因。创造更加包容的人工智能系统，我们或许可以采取以下措施：

1►

训练人工智能的数据具有多样性

用于训练人工智能的数据必须能够代表所有性别、种族和群体，这意味着要有意识地选择能够反映不同社会背景、文化和社会身份的数据，同时剔除那些将特定职业或特质与某一性别挂钩的历史偏见。

人工智能系统的开发应由多元化的团队完成，团队成员应来自不同的性别、种族和文化背景。这样可以在开发过程中引入不同视角，减少偏见产生的盲区。

2►

使女性公平充分地参与人工智能行业

人工智能领域需要更多女性视角，这要求为女性在 STEM及信息通信技术教育与职业中提供更多机会，并鼓励她们争取担任领导角色。

在阿尔巴尼亚举办的“性别数据马拉松”（Gender Datathon)中，一支名为“赋权”的团队获得第一名，他们的项目助力消除该国对女司机的性别刻板印象 ©UN Women

3►

提升人工智能系统算法透明度

科技公司等开发主体应通过技术手段和制度设计，让算法的决策逻辑、数据来源和运行过程变得可追溯、可解释、可审查，识别潜在偏见并建立问责机制。

4►

提高公众认知和开展教育

提高公众认知和开展教育，帮助人们了解人工智能的工作原理及其偏见风险，能够使他们更有能力识别并防范偏见系统，并确保关键决策始终由人类进行监督与把关。

5►

在人工智能开发中融入性别响应型政策

目前，没有任何机制能够阻止开发者在人工智能系统尚未准备就绪、未能确保安全性的情况下就将其发布。我们需要在人工智能系统开发中融入性别响应型政策，还应制定强有力的伦理框架。

6►

建立全球多方参与的治理框架

国际社会在数字技术领域的合作长期侧重于技术和基础设施问题以及数字经济，针对人工智能带来的挑战与风险，亟需建立一个全球多方参与的治理框架，在系统出现性别或种族偏见、强化有害刻板印象或未能达到隐私与安全标准时，能够及时采取预防和补救措施。

推动面向所有妇女和女童的数字改革，是联合国妇女署“北京+30行动议程”的重要工作之一，我们必须确保平等获得技术，使妇女和女童能够在人工智能和数字创新方面发挥领导作用，并保证她们的网络安全和隐私。

当下，人工智能技术迅猛发展，既带来了社会进步的机遇，也潜藏着加剧性别不平等的风险。警惕并消除人工智能中的性别偏见，我们才能实现真正公平、包容的数字未来。