网易首页 > 网易科技 > 网易科技 > 正文

微软宣布停售情绪状态分析技术,限制面部识别工具使用

0
分享至

6月22日消息,美国当地时间周二,微软宣布将停止销售基于面部图像分析个人情绪状态的自动化技术,并限制其面部识别工具的使用。

多年来,许多活动人士和学者始终担心,声称能够识别个人年龄、性别和情绪状态的面部分析软件可能存在偏见、侵入性,或者根本不可靠,因此不应该被允许出售。

微软承认的确存在上述问题,并在美国当地时间周二表示,计划从其人工智能(AI)服务中移除这些用于检测、分析和识别人脸的功能。微软将于本周停止向新用户出售该技术,现有用户也将在今年内逐步停用。

这些改变是微软加强对其AI产品控制努力的一部分。经过两年的审查,微软的一个团队制定了一份“负责任AI标准”。在长达27页的文件中,该公司列出了对负责任AI系统的具体要求,以确保它们不会对社会产生有害影响。

这些要求包括确保AI系统“为它们致力于解决的问题提供有效的解决方案”,以及“为已确定的人口群体(包括边缘化群体)提供类似质量的服务”。

这些技术将被用于帮助个人获得就业、教育、医疗保健、金融服务或人生机遇等做出重要决定,在发布之前,它们需要接受由微软首席负责任AI官娜塔莎·克兰普顿(Natasha Crampton)领导的团队的评估。

显然,微软对这种情绪识别工具的担忧加剧了,它可以将个人的面部表情归为愤怒、轻蔑、厌恶、恐惧、快乐、中立、悲伤或惊讶等。克兰普顿说:“我们表达自我的方式存在着巨大的文化、地理和个人差异,这引发了人们对AI识别工具可靠性的担忧,同时也会让人产生更大的疑问,即面部表情是否是反映个人内心情绪状态的可靠指标。”

克兰普顿还说,年龄和性别分析工具以及其他检测微笑等面部特征的工具,可能有助于盲人或视力不佳者解读视觉图像。但微软认为,向公众普遍提供这些分析工具不合适。克兰普顿强调,该系统的所谓性别分类器是二元的,“这与我们的价值观并不完全一致”。

微软还将对其人脸识别功能施加新的控制,该功能可用于身份核查或搜索特定的人。例如,网约车公司Uber在其应用中使用该软件来验证司机的脸是否与该司机账户上的ID匹配。想要使用微软面部识别工具的软件开发商需要申请访问权限,并解释他们计划如何部署该工具。

用户还将被要求申请并解释他们将如何使用其他可能被滥用的AI系统,如定制神经语音(Custom Neural Voice)。该服务可以根据某人的演讲样本生成人的声纹,这样作者就可以创建他们的合成声音,以用他们不会说的语言阅读有声读物。

由于该工具可能被滥用,比如生成某个人没有说过的话,用户必须经过一系列步骤来确认他们使用的声音得到了授权,并且录音中包括微软可以检测到的水印。克兰普顿说:“我们正在采取具体行动,以践行我们的AI原则,但这将是一段漫长的旅程。”

与其他科技公司一样,微软的AI产品在开发过程中也遭遇了许多挫折。2016年,微软在推特上发布了名为Tay的聊天机器人,旨在从与其互动的用户那里学习如何“理解对话”。然而,该机器人很快就开始发布具有种族歧视和攻击性的推文,微软最终不得不将其删除。

2020年,研究人员发现,微软、苹果、谷歌、IBM和亚马逊开发的“语音转文本”工具在黑人用户中的表现不太好。尽管微软的系统是其中最好的,但对白人的误认率为15%,而对黑人的误认率为27%。

虽然微软收集了各种各样的语音数据来训练其AI系统,但其始终没有彻底理解语言的多样化。因此,该公司聘请了来自华盛顿大学的社会语言学专家来帮助解释其需要了解的语言变体。这种方法超越了人口统计和地区差异,囊括了人们在正式和非正式场合的说话方式。

克兰普顿说:“认为种族是某个人说话方式的决定因素,实际上有很大误导性。我们咨询专家后了解到,实际上有很多因素会影响语言的多样性。解决语音与文本之间差距的过程,为公司在新标准制定指导方针提供了巨大帮助。”

克兰普顿还称:“现在是为AI制定规范的关键时期。”她指的是欧洲拟议中的法规,该法规对AI的使用设定了规则和限制。克兰普顿说:“我们希望能够利用我们的标准,为科技公司普遍应该遵守的标准的讨论和制定做出贡献。”

关于AI的潜在危害,科技界已经进行了多年的激烈辩论。争论的起因是,有些AI错误和失误对人们的生活产生了实际影响,比如决定人们是否能获得福利的算法。荷兰税务机构错误地剥夺了贫困家庭的儿童看护福利,因为一个有缺陷的算法排除了具有双重国籍的人。

用于识别和分析人脸的自动化软件一直备受争议。去年,Facebook关闭了其已有十年历史的照片识别系统。该公司负责AI业务的副总裁提到,“很多人对面部识别技术在社会中的地位感到担忧”。

几名黑人男子因面部识别匹配有误而被错误逮捕。2020年,在明尼阿波利斯市警察枪杀乔治·弗洛伊德(George Floyd)后,引发了“黑人的命也是命”(Black Lives Matter)的抗议活动。与此同时,亚马逊和微软宣布暂停美国警方使用其面部识别产品,称需要对其使用制定更明确的法律。

自那以后,美国华盛顿和马萨诸塞州通过了法规,其中要求对警察使用面部识别工具进行司法监督。克兰普顿说,微软曾考虑是否开始在有法律依据的州向警方提供其软件,但目前决定不这样做。她说,随着法律环境的变化,这种情况可能会改变。

普林斯顿大学计算机科学教授、著名AI专家阿温德·纳拉亚南(Arvind Narayanan)表示,公司可能正在放弃分析面部的技术,因为他们可能意识到,至少目前,这些系统没有太大的商业价值。微软没有透露其面部分析功能有多少用户。纳拉亚南预测,公司不太可能放弃其他侵入性技术,比如定向广告,它会让人们选择最好的广告来展示给特定用户,因为它们依然是“摇钱树”。 (小小)

相关推荐
热点推荐
俄示威者不顾严寒走向街头,与警察硬碰硬,亲美学者制造大乱局?

俄示威者不顾严寒走向街头,与警察硬碰硬,亲美学者制造大乱局?

一刀体育
2022-06-28 13:23:45
俄军改变了轰炸策略!乌克兰:破坏性巨大!

俄军改变了轰炸策略!乌克兰:破坏性巨大!

清史明月照人还
2022-06-28 08:55:17
无视中国院士警告?新荣耀“遮羞布”被撕开:技术被美取代了吗?

无视中国院士警告?新荣耀“遮羞布”被撕开:技术被美取代了吗?

智能改变世界
2022-06-28 06:06:10
中院院长涉徇私枉法罪被立案侦查!或与10多年前“学生奸杀老师案”有关

中院院长涉徇私枉法罪被立案侦查!或与10多年前“学生奸杀老师案”有关

对话老板
2022-06-27 23:54:54
快报!这将对法国构成“严重威胁”

快报!这将对法国构成“严重威胁”

朝三暮四
2022-06-28 06:01:28
印媒:中国航母数量不会超过4艘,但第4艘将是核动力可摧毁卫星

印媒:中国航母数量不会超过4艘,但第4艘将是核动力可摧毁卫星

迷彩虎军事
2022-06-27 18:15:46
毛泽东失兵权门可罗雀,只有林彪登门看望:我给你带了200块银元

毛泽东失兵权门可罗雀,只有林彪登门看望:我给你带了200块银元

档案馆老何
2022-06-28 10:12:01
云南女子给男朋友做菜,对方却一口不吃,在线求助网友:不敢分手

云南女子给男朋友做菜,对方却一口不吃,在线求助网友:不敢分手

北港初晴
2022-06-28 12:30:50
牛回速归!2亿投资者嗨了,沪指重返3400点长安汽车市值破2000亿

牛回速归!2亿投资者嗨了,沪指重返3400点长安汽车市值破2000亿

AI财经社
2022-06-28 14:46:17
本尊点赞!恩师指出全红婵207C失误原因,从不谈伤病,令人动容

本尊点赞!恩师指出全红婵207C失误原因,从不谈伤病,令人动容

绿茵猫
2022-06-28 20:02:34
带货翻车之后,新东方直播急速降温

带货翻车之后,新东方直播急速降温

电商报
2022-06-28 09:46:27
志愿填报的6大坑千万别踩!否则滑档上不了大学,可别怪我没说…

志愿填报的6大坑千万别踩!否则滑档上不了大学,可别怪我没说…

张雪峰老师
2022-06-28 17:38:26
亚裔女孩去男生家里约会!男方在房间里脱光了等她进来,结果……

亚裔女孩去男生家里约会!男方在房间里脱光了等她进来,结果……

午夜西飞
2022-06-28 13:51:09
俄军67岁老将抵达乌前线,体重超标一天喝一公升伏特加,吃五顿饭

俄军67岁老将抵达乌前线,体重超标一天喝一公升伏特加,吃五顿饭

岁岁的甜点屋
2022-06-27 21:04:39
A股:“电力设备”迎来爆发期,未来有望十倍的5大核心龙头!

A股:“电力设备”迎来爆发期,未来有望十倍的5大核心龙头!

国学爱生活
2022-06-28 17:16:56
刘强东事件女主刘静尧,爆真相两人是自愿的,网友:刘强东不无辜

刘强东事件女主刘静尧,爆真相两人是自愿的,网友:刘强东不无辜

铅华浮梦
2022-06-28 14:01:02
动手了!美国出钱,韩国出人,日本出技术,三国联手围堵中国

动手了!美国出钱,韩国出人,日本出技术,三国联手围堵中国

娱乐神仙姐姐
2022-06-27 22:41:01
张桂梅校长的辛苦没有白费啊!

张桂梅校长的辛苦没有白费啊!

小吴小吴
2022-06-28 12:50:10
李敏李讷近况如何她们的生活让我们感动!

李敏李讷近况如何她们的生活让我们感动!

江山皆叹惋
2022-06-28 16:13:57
邓炳强接受环球时报专访:正告乱港分子悬崖勒马,不要再继续叛徒行为

邓炳强接受环球时报专访:正告乱港分子悬崖勒马,不要再继续叛徒行为

环球网资讯
2022-06-28 06:52:22
2022-06-28 21:34:44

科技要闻

为什么字节跳动还在轰炸式招聘?

头条要闻

上海一公交车滑入河道 司机初步诊断患有心梗

头条要闻

上海一公交车滑入河道 司机初步诊断患有心梗

体育要闻

全红婵:希望下次可以更努力争取金牌

娱乐要闻

三星小公主罕见露面 穿短裙参加婚礼

财经要闻

汽车要闻

现代全新电动车细节图 溜背设计+流媒体后视镜

态度原创

家居
旅游
教育
游戏
公开课

家居要闻

4房改成2房!有娃家庭全屋竟黑白色调?

旅游要闻

中国避暑好地方 夏季平均23℃

教育要闻

痛失清北!江苏一考生铃响后涂卡英语答题卡被判0分,成绩533分

张良新皮肤可以免费获取?

公开课

中国拒收洋垃圾第4年,西方环境就臭了?

进入关怀模式
×