网易首页 > 网易号 > 正文 申请入驻

索尼新数据集可检验 AI 模型是否公平对待不同人群

0
分享至

IT之家 11 月 6 日消息,索尼人工智能(Sony AI)发布了一个用于测试人工智能模型公平性与偏见的新数据集,名为“公平以人为本图像基准”(Fair Human-Centric Image Benchmark,简称 FHIBE,发音类似“Phoebe”)。该公司称,这是“首个公开可用、具有全球多样性、基于参与者知情同意的人类图像数据集,可用于评估各类计算机视觉任务中的偏见问题”。换言之,该数据集旨在检验当前 AI 模型在多大程度上能够公平对待不同人群。值得注意的是,索尼在评估过程中发现,目前没有任何一家公司发布的数据集能够完全满足其设定的公平性基准。

图源:索尼

索尼表示,FHIBE 有助于应对 AI 行业在伦理与偏见方面的挑战。该数据集包含来自 80 多个国家近 2,000 名有偿参与者的图像,所有参与者的肖像均在明确知情同意的前提下被使用 —— 这与当前业界普遍采用的、未经许可大规模抓取网络数据的做法形成鲜明对比。FHIBE 参与者可随时选择撤回其图像。据IT之家了解,这些图像还附有详细标注,涵盖人口统计学和身体特征、环境因素,甚至包括拍摄时的相机参数。

该工具“验证了当前 AI 模型中此前已被记录的偏见”,但索尼强调,FHIBE 还能对导致这些偏见的具体因素进行细致分析。例如,某些模型在使用“she / her / hers”代词的时准确率较低,而 FHIBE 分析发现,此前被忽视的一个关键因素是这些人群在发型上的高度多样性。

此外,FHIBE 还发现,当 AI 模型被问及某个中立问题(如“该人物的职业是什么?”)时,会强化刻板印象。测试显示,模型对特定代词使用群体和族裔背景人群存在明显偏见,常常将受访者描述为性工作者、毒贩或小偷。而在被要求推测某人所犯罪行时,模型对非洲或亚洲族裔、肤色较深者以及使用“he / him / his”代词的人群,更频繁地生成“有毒”(toxic)回应。

索尼 AI 表示,FHIBE 证明了在数据收集中实现伦理、多样性和公平性是完全可行的。该工具现已向公众开放,并将随时间推移持续更新。相关研究成果已于本周三发表于《自然》(Nature)期刊。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
前国脚曝蓉城丢冠内幕:高层代替主帅定首发!3人被废,蒿俊闵上看台

前国脚曝蓉城丢冠内幕:高层代替主帅定首发!3人被废,蒿俊闵上看台

念洲
2026-11-16 09:38:40
还记得你和异性做过最疯狂的事吗?网友:我差不多就是这样和同事发生了

还记得你和异性做过最疯狂的事吗?网友:我差不多就是这样和同事发生了

带你感受人间冷暖
2026-11-14 15:59:30
全网曝光2.7亿!央视、人民日报都在报,政府大院里摆满了鸡鸭鱼

全网曝光2.7亿!央视、人民日报都在报,政府大院里摆满了鸡鸭鱼

娱乐圈见解说
2026-11-16 04:05:25
全美停飞,洛杉矶一架航班意外起飞,乘客:近万尺高空得知消息,挺疯狂;机上乐队歌手连唱十几首歌为乘客舒缓情绪

全美停飞,洛杉矶一架航班意外起飞,乘客:近万尺高空得知消息,挺疯狂;机上乐队歌手连唱十几首歌为乘客舒缓情绪

极目新闻
2026-11-15 20:00:33
央视怒批!脑内空空,洋相百出,难怪获奖的是他们,冯远征说对了

央视怒批!脑内空空,洋相百出,难怪获奖的是他们,冯远征说对了

叨唠
2026-11-16 05:10:09
余承东发布新款问界M8:38万元起售,全系预埋L3架构

余承东发布新款问界M8:38万元起售,全系预埋L3架构

量子位ROBO
2026-11-16 15:20:54
何家劲痛骂移民老友!卖光香港家产去往加拿大,如今哭着说回不来

何家劲痛骂移民老友!卖光香港家产去往加拿大,如今哭着说回不来

人文思辨社
2026-11-16 18:52:29
黄仁勋倒下后,对他下手最狠的,竟是之前把他吹上天的那个人

黄仁勋倒下后,对他下手最狠的,竟是之前把他吹上天的那个人

酒话醉人
2026-11-16 15:29:39
11月16日晚间上市公司重大事项公告

11月16日晚间上市公司重大事项公告

风风顺
2026-11-17 01:30:04
盘前,集体跳水!黄仁勋,突传重磅!“AI教父”最新发声

盘前,集体跳水!黄仁勋,突传重磅!“AI教父”最新发声

证券时报
2026-11-16 17:46:04
CCTV5直播时间表:国乒8人名单正式确定,王楚钦孙颖莎冲击四连冠

CCTV5直播时间表:国乒8人名单正式确定,王楚钦孙颖莎冲击四连冠

寒律
2026-11-16 19:44:15
特朗普赶来深圳前,美军三艘航母进入战位,最后的倒计时已开始?

特朗普赶来深圳前,美军三艘航母进入战位,最后的倒计时已开始?

静儿家
2026-11-16 22:09:01
禁止参展!2026年两颗黄钻"无人接盘",西方破防:河南钻不许展出

禁止参展!2026年两颗黄钻"无人接盘",西方破防:河南钻不许展出

火星方阵
2026-11-14 16:31:13
这是中国最不要脸的一个群体,无耻之极,世所罕见!

这是中国最不要脸的一个群体,无耻之极,世所罕见!

晓楖科普
2026-11-11 13:09:39
世纪和解:贾乃亮李小璐热度升高,李小璐发文:属于这个冬天的温柔时刻!

世纪和解:贾乃亮李小璐热度升高,李小璐发文:属于这个冬天的温柔时刻!

默默有话说
2026-11-14 20:31:14
从月销2万台跌至不足2000台,理想i6经历了什么?

从月销2万台跌至不足2000台,理想i6经历了什么?

座驾参谋
2026-11-16 16:45:23
状态差与皇马和穆帅无关,维尼修斯分析自己状态低迷的原因:我非梅西C罗

状态差与皇马和穆帅无关,维尼修斯分析自己状态低迷的原因:我非梅西C罗

福酱的小时光
2026-11-17 06:37:45
0分!生涯第一次0分!NBA最大的笑话

0分!生涯第一次0分!NBA最大的笑话

篮球教学论坛
2026-11-16 17:47:23
罗伯特·帕丁森官宣新一任007,40岁穿黑礼服持枪亮相

罗伯特·帕丁森官宣新一任007,40岁穿黑礼服持枪亮相

影视情报室
2026-11-17 00:31:49
这跟耍流氓啥区别?Lisa美国演出辣眼,和男伴贴身热舞,爸妈捧场

这跟耍流氓啥区别?Lisa美国演出辣眼,和男伴贴身热舞,爸妈捧场

不写散文诗
2026-11-14 19:53:27
2026-11-17 06:56:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379641文章数 607735关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

艺术
手机
家居
健康
公开课

艺术要闻

这些“绝版合影”几乎永不再来,一张比一张震惊,最后一张直接看呆

手机要闻

传苹果20周年纪念版iPhone Pro将采用全新圆润设计 延续iPhone Air风格

家居要闻

2026建博会(广州) 公装联探展交流活动

情绪真能让健康人"伤心至死"?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版