中新经纬客户端6月26日电 (张燕征)近日，由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行。清华大学社科学院心理学系博士后许丽颖在研讨会上表示，要解决算法歧视和算法厌恶等问题，需要更多实证道德心理学研究，了解更多民众的观点。“平台收集人们的数据，做用户画像和用户分类，需要探索一个合适的‘度’。”
清华大学社科学院心理学系博士后许丽颖。来源：主办方供图
许丽颖表示，心理学领域对算法有很多研究。数据表明，很多人知道算法决策表现是更优的，但是人们还是不太喜欢让算法做决策，更愿意让人类做决策，人们称这种心理为算法厌恶。当这种决策任务有道德性质时，这个厌恶就更加强烈。
那么算法厌恶形成的原因是什么？又该如何解决？许丽颖指出，可在实证研究基础上再去探讨一些解决方式。比如研究发现，人们对于算法不了解，从而导致人们产生算法厌恶，那么可以提高算法的透明度，提高普通人的算法知识。也有实证研究发现，人们对于算法能力不信任，那么可提高算法的决策能力、专业化和个性化。
“还有一些人了解算法，也信任它的能力，但是内心就是不愿意用，针对这种现象，可以增强人类和算法的合作，不是把决定权交给算法，而是共同做决策，一定程度可以减少算法厌恶。”许丽颖称。
许丽颖介绍道，她所在的研究团队从人工智能的社会心理学、道德心理学研究领域，将算法研究划分成了三个层面：最底层的数据和算法包括隐私泄露问题，中层是人机交互辅助决策和冲突问题，上层探讨算法歧视问题。“从下至上是越来越社会化的，从上至下是越来越基础。剥离人的因素，然后在这个框架下进行系列研究。”
针对算法歧视方面的研究，许丽颖团队采用了情境实验的范式，“通过对比分析性别、学历、民族、年龄等要素，我们发现无论是什么样的歧视，相比算法歧视来说，人们对人类的歧视更加愤怒、更加生气。”许丽颖称。
在许丽颖看来，要理解算法歧视现象，还需要进一步探讨中介机制。“算法歧视行为是没有意图，不是主动去做的，没有自由意志，而如果我们将算法拟人化，算法就有更多意图，更多的自由意志，那民众可能对它更愤怒，更想要惩罚它。”
“道德心理学对于人工智能研究是一个以人为本的研究，无论是算法厌恶还是算法歧视，其实都是从民众中来的，要研究如何解决也要到民众中去，看民众怎么想，在了解他们意见的基础上，我们再提出一些针对性的措施去解决。”许丽颖称。(中新经纬APP)
中新经纬版权所有，未经书面授权，任何单位及个人不得转载、摘编或以其它方式使用。
【编辑：万可义】
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
