网易首页 > 网易号 > 正文 申请入驻

AI招人,比人类更容易产生偏见

0
分享至


(来源:麻省理工科技评论)

以后找工作时,你的简历很可能还没到招聘经理手里,就已经先被 AI 看过一遍了。问题是,它真的会公平吗?

研究人员早就发现,大语言模型会从训练数据里继承人类社会已有的偏见。但一项最新研究发现,事情可能比这更复杂:AI 不仅会学习偏见,还会在不断做决策的过程中,自己形成新的刻板印象,而且这种倾向甚至比人类更强。

更值得警惕的是,AI 公司如今都在努力打造拥有长期记忆的智能体,希望模型能够记住用户越来越多的细节。而这些记忆,也可能成为模型滋生偏见的土壤。

为了研究这一问题,普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验,参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。

实验改编自一项经典心理学研究。研究人员告诉模型,它们受雇于一位虚构城市的市长,担任招聘顾问,需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群:Tufa、Aima、Reku 和 Weki。

每一轮,模型都会面对一个新的岗位,以及四位分别来自不同族群的候选人。完成招聘后,它会立刻得到反馈:这个人是否胜任工作。随后进入下一轮。整个实验一共持续 40 轮,模型的目标只有一个:尽可能招到更多合适的人。模型不知道的是,研究人员其实做了一个手脚:无论来自哪个族群,每位候选人在任何岗位上的成功概率都完全一样。

按理说,模型不应该偏向任何一个群体。但结果恰恰相反。仅仅经过几轮招聘,模型就开始根据有限的经验,把不同族群和不同职业绑定在一起。例如,如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败,它之后便会越来越少招聘 Aima 人做医生,而是更倾向于把他们安排到保洁岗位。因为在模型看来,医生代表着更高的能力和亲和力,而保洁员对应的要求则更低。

换句话说,它开始把一次偶然的经历,当成了整个群体的特征。更令人意外的是,这种倾向甚至比真人严重。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。指数越高,说明不同族群越容易被固定到特定职业中;2 分代表完全隔离。此前心理学实验中的真人平均得分为 0.84,而大语言模型整体高出了约 65%。其中,OpenAI 的推理模型 o3 得到了 1.83,非常接近理论最高值。

论文共同作者、普林斯顿大学博士生 Ryan Liu 认为,这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。”他说,“这几乎就是它们被训练出来要做的事情。”

在人类心理学中,这种现象对应着经典的“探索—利用困境”(exploration-exploitaion dilemma):是继续选择过去证明有效的方法,还是尝试新的可能?就像出去吃饭时,你会纠结是去一家没吃过的新店,还是继续光顾那家不会踩雷的老餐馆。

对于大语言模型来说,这种取舍往往更加偏向后者。因为它们长期接受数学、编程和科学任务训练,而这些任务通常鼓励模型从少量例子中快速归纳规律,所以它们很容易过早下结论。也正因为如此,那些推理能力更强的新模型——例如 OpenAI 的 o3 和DeepSeek的 R1——在实验中反而表现出了更明显的偏见。Liu 说,“当这种快速归纳的能力被带入社会场景时,问题就开始出现了。”

康奈尔大学计算机科学家Angelina Wang没有直接参与这项研究,但她认为,这项工作来得正是时候。如今,各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时,它也可能越来越容易根据这些有限经验形成判断。她说,“它可能会过度依赖自己过去遇到过的行为模式。”

当然,解决办法并不是让 AI 什么都记不住。毕竟,大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点:既保留足够的记忆提供个性化体验,又不至于让模型因为这些经验形成新的偏见。

研究人员还尝试了另一种办法,直接告诉模型:请公平一点。但并不奏效。Liu 认为,这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中;又或者,这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。

但如果换一种方式,情况就不同了。研究人员告诉模型,如果能够实现更加多元化的招聘,它们还能获得额外奖励。模型的偏见随即大幅下降。这说明,与其不断强调公平,不如直接把公平写进模型的目标函数里,让社会价值真正成为模型优化的一部分。

研究人员还发现,当模型掌握更多真正与任务相关的个人信息时,偏见也会减轻。另一组实验中,模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息,模型就更倾向于依据这些个人特征做判断,而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息,模型很快又会重新回到按族群做决定的老路上。

至于现实中的 AI 招聘系统会不会出现同样的问题,目前还没有明确结论。实验中的模型每做完一次招聘,都能立刻知道结果;现实世界却不是这样。一家公司往往需要几个月甚至更长时间,才能判断一位员工是否真正适合岗位。不过,只要这些反馈持续积累,模型依然可能从有限的数据中过度总结经验,并把这些经验带到下一次招聘中。

随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试,这项研究释放出的信号不容忽视。未来,AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中,创造出一种从未有人教过它的新偏见。正如 Liu 所说:“这种新的偏见,可能会一直存在。”

https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
申京空砍28+11+10火箭不敌掘金,杜兰特仅16分约基奇26分11助

申京空砍28+11+10火箭不敌掘金,杜兰特仅16分约基奇26分11助

湖人崛起
2026-11-21 13:38:41
德州发布最新人事任免

德州发布最新人事任免

中国山东网
2026-11-21 12:52:14
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
北京雍和宫旁2.2平米毛坯房卖60万!中介:有房本,不是违建,至今没人看房

北京雍和宫旁2.2平米毛坯房卖60万!中介:有房本,不是违建,至今没人看房

极目新闻
2026-11-21 20:11:56
美媒:美军战略大撤退开启,中美主战场从台湾岛前推 3000公里!

美媒:美军战略大撤退开启,中美主战场从台湾岛前推 3000公里!

乡土舒四
2026-11-19 16:35:08
降薪220万欧回国!33岁中超MVP官宣离队 4年2次来华+助两队夺首冠

降薪220万欧回国!33岁中超MVP官宣离队 4年2次来华+助两队夺首冠

我爱英超
2026-11-21 19:47:23
菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

菲总统小马科斯夸赞中方迎宾曲安排:温暖贴心!

看看新闻Knews
2026-11-21 17:50:41
网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

裕丰娱间说
2026-11-21 14:26:14
何沁教授逝世

何沁教授逝世

极目新闻
2026-11-21 16:50:35
丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

小徐讲八卦
2026-11-20 06:39:39
确诊不到一年,患全球罕见变异白血病小伙去世 生前最大愿望是活着陪妈妈回四川老家

确诊不到一年,患全球罕见变异白血病小伙去世 生前最大愿望是活着陪妈妈回四川老家

红星新闻
2026-11-21 15:12:39
没想到,APEC峰会结束仅1天,中国竟因三个“特产”在全球火出圈

没想到,APEC峰会结束仅1天,中国竟因三个“特产”在全球火出圈

云上乌托邦
2026-11-21 00:20:04
火箭主帅怒批球员:打得这么烂,你一场球都赢不了

火箭主帅怒批球员:打得这么烂,你一场球都赢不了

体坛周报
2026-11-21 17:34:09
“不把孩子带到这个世界,才是对孩子真正的负责”,成为了大部分90后、00后的想法

“不把孩子带到这个世界,才是对孩子真正的负责”,成为了大部分90后、00后的想法

舒山有鹿
2026-11-20 16:20:23
杭州一女子参加旅游团,3天2晚仅交100元,却被忽悠花34万元买房,如今“肠子都悔青”:这样的房子10万元都不值;官方回应:已成立调查组

杭州一女子参加旅游团,3天2晚仅交100元,却被忽悠花34万元买房,如今“肠子都悔青”:这样的房子10万元都不值;官方回应:已成立调查组

扬子晚报
2026-11-21 17:10:20
普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

小徐讲八卦
2026-11-21 10:28:27
都快两个月了,刹车踏板断裂该出调查结果了吧?

都快两个月了,刹车踏板断裂该出调查结果了吧?

神不隆通
2026-11-21 08:00:08
78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

念洲
2026-11-21 13:12:32
四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

台州交通广播
2026-11-21 10:23:13
中国台北代表施振荣的不习惯,映照台当局在两岸交流上的政治操弄!

中国台北代表施振荣的不习惯,映照台当局在两岸交流上的政治操弄!

有态度的何总
2026-11-21 08:06:02
2026-11-21 21:04:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17512文章数 515391关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
时尚
家居
公开课
军事航空

艺术要闻

17幅 俄罗斯画家Dmitry Sysoev风景油画选三

提升冬日幸福感的8件小事,太治愈了

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版