网易首页 > 网易号 > 正文 申请入驻

研究:AI聊天机器人向弱势用户提供的信息准确性较低

0
分享至

IT之家 2 月 24 日消息,大型语言模型一直被广泛推崇为具有革命性的工具,能够让全球信息获取变得更加普惠。然而,美国麻省理工学院建设性传播中心的一项最新研究表明,这些人工智能系统,在本应最能从中受益的弱势群体身上,却系统性地表现不佳。

IT之家注意到,这项研究成果在人工智能促进协会(AAAI)年会上发布,研究对象包括 OpenAI 的 GPT‑4、Anthropic 的 Claude 3 Opus 以及 Meta 的 Llama 3 等当前最先进的聊天机器人。研究人员使用 TruthfulQA 和 SciQ 数据集测试模型的事实准确性与真实性,并在提问前附加不同教育水平、英语熟练度和国籍的用户背景信息。结果显示,对于受正规教育程度较低或英语熟练度不高的用户,模型回答的准确率显著下降;而同时符合这两类特征的用户,受到的负面影响更为严重。

该研究还揭示了模型在处理查询时令人担忧的差异表现。例如,Claude 3 Opus 对受教育程度较低、非英语母语用户的问题拒绝回答率接近 11%,而对照组用户仅为 3.6%。在许多拒绝回复的情况中,模型使用了居高临下、傲慢甚至嘲讽的语气,有时还刻意模仿蹩脚英语。此外,对于来自伊朗、俄罗斯等国、受教育程度较低的用户,模型会刻意隐瞒核能、历史事件等话题的真实信息,而对其他用户群体却能正确回答完全相同的问题。

研究人员警告称,随着个性化功能日益普及,这些固有的社会认知偏见可能会加剧现有的信息不平等问题,它们会悄然将有害行为与错误信息传递给最缺乏辨别能力的人群。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
顺丰速运被暂停参加全军采购活动

顺丰速运被暂停参加全军采购活动

观察者网
2026-11-21 11:18:09
欧盟提议再援乌450亿欧元,冯德莱恩扬言:俄赔偿后乌才需偿还

欧盟提议再援乌450亿欧元,冯德莱恩扬言:俄赔偿后乌才需偿还

军机Nova
2026-11-20 11:19:34
旅行者1号永远停留在了前天!

旅行者1号永远停留在了前天!

故事终将光明磊落
2026-11-20 14:49:55
AI交易崩跌踩踏!金银铜全线重挫,全周期金跌超9%、纽铜跌近10%,原油三周大跌两成

AI交易崩跌踩踏!金银铜全线重挫,全周期金跌超9%、纽铜跌近10%,原油三周大跌两成

华尔街见闻官方
2026-11-21 06:34:34
全面下跌,何时见底?

全面下跌,何时见底?

星图金融研究院
2026-11-20 15:37:21
余承东紧急纠正发布会不当言论:现在还是L2 开车不能睡觉!

余承东紧急纠正发布会不当言论:现在还是L2 开车不能睡觉!

快科技
2026-11-20 18:40:09
说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

扶苏聊历史
2026-11-20 15:37:24
高考再次证实张桂梅:教育最大的骗局,就是盲目推崇“释放天性”

高考再次证实张桂梅:教育最大的骗局,就是盲目推崇“释放天性”

云舟史策
2026-11-19 07:16:32
红果短剧要杀进客厅,直刺腾爱优芒的心脏?

红果短剧要杀进客厅,直刺腾爱优芒的心脏?

文娱春秋Plus
2026-11-20 09:41:17
哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

醉卧浮生
2026-11-21 10:57:09
张维为:美国越来越多的年轻人接受社会主义

张维为:美国越来越多的年轻人接受社会主义

看看新闻Knews
2026-11-20 21:36:04
白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

看看新闻Knews
2026-11-21 13:01:19
习酒前董事长钟方达被双开,此前被传已去世

习酒前董事长钟方达被双开,此前被传已去世

21世纪经济报道
2026-11-20 21:36:51
浓眉哥36+11!奇才15分逆转双杀奇才 特雷杨制胜两罚迪班萨20+10

浓眉哥36+11!奇才15分逆转双杀奇才 特雷杨制胜两罚迪班萨20+10

醉卧浮生
2026-11-21 11:33:10
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
黎曼猜想真被Claude证明了?陶哲轩邓煜等菲尔兹奖得主回应!

黎曼猜想真被Claude证明了?陶哲轩邓煜等菲尔兹奖得主回应!

智东西
2026-11-21 07:16:31
数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

可达鸭面面观
2026-11-21 08:21:38
2.3万亿美元“灰飞烟灭”!美国芯片股上一次跌这么惨,还是2001年,英伟达已经“跌掉一个亚马逊”

2.3万亿美元“灰飞烟灭”!美国芯片股上一次跌这么惨,还是2001年,英伟达已经“跌掉一个亚马逊”

华尔街见闻官方
2026-11-21 10:29:07
郎平接受鲁豫专访,自曝颈椎、髋关节、膝关节全都换了;现在是钓鱼高手,从不“空军”;盛赞在《夺冠》中演郎平的巩俐“演得非常像”

郎平接受鲁豫专访,自曝颈椎、髋关节、膝关节全都换了;现在是钓鱼高手,从不“空军”;盛赞在《夺冠》中演郎平的巩俐“演得非常像”

极目新闻
2026-11-20 19:43:20
特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

政知新媒体
2026-11-21 10:17:31
2026-11-21 13:28:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380578文章数 607743关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普在白宫点赞深圳 称美国一些城市"脏得让人恶心"

头条要闻

特朗普在白宫点赞深圳 称美国一些城市"脏得让人恶心"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
本地
艺术
亲子
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

艺术要闻

2026第七届民族美术作品展 油画选二

亲子要闻

《细胞·代谢》:产后抑郁竟通过母乳“伤害”后代大脑?!中国科学家首次揭示母乳外泌体介导的跨代神经损伤机制

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版