TTS新传论文带读：社交聊天机器人竟然也有性别偏见？

@TuTouSuo™️

*小红书账号：秃头研究所新传考研/秃头研究所Monsters

*如果你觉得自己读论文太过于盲目，不知道从哪里开始；如果你也想要通过碎片化的时间来补充和拓展知识储备；如果你想要一份直接简单的论文带读指南…那么一定要关注秃头研究所的论文带读栏目！每天都有热门事件、热门考点、有趣选题，通过标注考点、知识点和可学习案例，帮助我们实现「无痛阅读」！

*推文内容同步小红书/息流更新，也欢迎大家关注我们的小红书账号鸭！来和秃头所在小红书见面吧！

后台回复「论文带读」

获得所有论文带读PDF

添加打工人晨晨tts-chenchen

进入2025论文带读群

性别歧视与算法偏见

@TuTouSuo™️

社交聊天机器人的性别偏见——基于小冰系列的对话测试研究

✍文/马中红 吴熙倡

本文的研究问题（⭐️⭐️⭐️）

❓随着人机交互技术快速叠代更新，人类与智能机器的社会化交互行为将日益自然化、日常化、互嵌化和互构化，在此过程中，社交聊天机器人能否感知并认知那些被产品开发者预设的性别属性？

❓在人机社交聊天过程中，机器如何展示它们的性别偏见？

❓在与人类不断交互对话中两者又如何建构对方的性别意识，进而反思社交聊天机器人的性别意识/性别偏见由哪些社会结构性力量参与建构？

论文观点（⭐️⭐️⭐️⭐️）

▪ 【人机交互】

人机交互指人与机器之间产生交流与互动。随着智能化程度的提升，“机”经历了机器、计算机、机器人、人形机器人的演变历程，其趋向是机械属性越来越减弱，表现得越来越“人格化”。“交互”则从特指人际之间的关系延伸至人与机器的交流，同时，人机关系也逐渐从人单向度操控机器为人提供功能性服务发展到人机互动的“情感交流”。

▪ 【聊天机器人】

近年，一种基于人工智能、自然语言和对话系统等技术的聊天机器人产品在全球逐渐流行。2022年底，“ChatGPT”走红将这种技术热潮推向全民。聊天机器人既属于对话系统，也是社交机器人（social bots）中的一种，在某种程度上起到替代人类与人类进行交流、情感陪伴与日常互动的作用。

答题语料积累+案例（⭐️⭐️⭐️）

▪ 联合国教科文一项关于语音助手的调查报告证实，智能语音助手都被默认为女性。互联网平台或电商平台越来越普及的AI客服，也会使用女性照片充当界面图标或虚拟头像，被赋予女性化的角色定位或性别特征。尽管技术中立者认为智能设备技术上能够实现机器人性别的中性化或多元化，但这些人机交互产品所预设的视听化特性，无一不在暗示用户：机器人是有性别的、服务型和陪伴型的机器人通常扮演的是女性角色。

▪ 根据AI深度学习、自然语言处理和生成等技术逻辑，目前对话系统技术倘且不具有让聊天机器人超越语言辨识与处理的能力，模仿与复制用户的语言仍然是社交聊天机器人进行对话学习的基本逻辑。社交聊天机器人在人机交互的过程中会不断学习人类的语言、行为和社会观念等，并且对话系统在自然语言生成的过程中必须考虑与用户对话的历史记录和用户的背景信息，也导致社交聊天机器人会不断受到人类的语言和意识的建构。

▪ 换言之，社交聊天机器人的整套人机交互系统是建立在“用户参与－对话系统技术支持－程序开发者”的基础之上的，是技术系统性地参与了性别偏见的再生产，而不是单方面的作用。人类用户使用社交聊天机器人越多，留下的性别观念越显著，社交聊天机器人便越容易习得并放大技术性偏见。当人类对社交机器人产生媒介依赖并形成亲密关系后，就更容易接受机器人的性别偏见，这是技术性性别偏见对人类社会行为的反向规训。

▪ 对于当前社交聊天机器人性别偏见的纠偏，既要求人机交互模型调整数据、标注、权重和筛选机制，以保证性别公平或无性别偏见，这已然很难，更难的是改变造成性别偏见的历史性和社会性因素。就社交聊天机器人的研发和生产而言，或许强调科技型公司的社会责任感，使工程师性别结构多样化，提升程序开发者和运营者的性别素养，才有助于日渐改变人机交互技术系统的性别偏见。

⛄️

ꕤ⋆⸝⸝Idealism

「去更大的世界 做更有趣的人」

小破所常驻广子