AI的四个致命问题：不清洁，不人工，不智能，制造偏见

本文图片均来自网络

文 | 郑渝川

本号原创首发

人工智能和社会和政治影响领域的知名学者、美国南加州大学安纳伯格分校的研究教授、微软公司纽约研究院高级首席研究员凯特·克劳福德所著的《技术之外：社会联结中的人工智能》，致力于阐述人工智能的制造过程。

书作者甚至直言，AI既不人工，也不智能。这其实与人类制造出的其他机器、物件的差别性并不是那么大。按照书作者给出的叙述，人工智能是具身性的，也是物质性的，是由自然资源、燃料、人力、基础设施、物流、历史和分类构成的。“如果没有经过广泛的、使用预定义规则和奖励条件的大型数据库的计算密集型训练，AI系统就不是自主的、理性的，也无法识别任何东西”。

书作者在全书第七章谈到一个重要观点，讨论AI，当然需要关注硅谷的大学实验室和开放式办公室（对应研究性院校和头部公司），但不能仅限于此。

人工智能诞生在哪里呢？

首先，诞生在玻利维亚的盐湖、刚果的矿山，以及全球其他很多重要的矿产地，依托于大量毫无劳动防护、没有契约保障的临时工在沙漠中，或潜入海水下，或进入地底的矿井里，用最原始的方法来获得稀土、锂、锡等元素。 AI等科技基础设施的硬件需求，高度依赖于日趋枯竭的资源，以及来自全球动荡地区矿区的原材料。

具有讽刺意味的是，无论是研究性院校和头部公司，都经常用蓝天白云等环境友好图片来搭配AI，这类院校、公司热衷于参加可持续发展议题讨论，所做一切都是为了传递AI的环保一项。但事实上，运行美国的，中国的，欧洲的，日本的互联网大厂的基础设施都需要巨大的能量，AI系统的能耗远超这些公司对外宣称的数额，甚至已经超过全球航空业的碳足迹。瑞典曾有研究机构预测，到2030年，仅全球数据中心的电力需求就将增加约15倍。

为AI供能，有核能、可再生能源作为选项，但也包括大量的天然气、煤炭。书作者指出，苹果、谷歌等互联网大厂，是通过购买信用来抵消碳排放，这形同于中世纪的赎罪券。

书作者在指出AI并不清洁之后，就转入第二个问题，那就是AI的工作效能，也就是说所谓的机器换人，并不是那么准确。劳动力在全球很多地区依旧稀缺，AI的作用更准确来说是成为了更高效的监工，监视员工行动、行为，包括追踪其社交媒体记录、电子邮件记录，评估其工作成长效能，以实现最大化的压榨。“随着工作场所的AI越来越普遍，许多更基本的监控和跟踪系统正在扩展新的预测能力，成为更具侵入性的员工管理、资源控制及价值萃取机制”。

“在工作场所使用人工智能，尤其是情绪检测的工具，使企业掌握了更多的控制权，从而进一步加剧了权力的不对称”。

《技术之外：社会联结中的人工智能》讽刺性地指出了在美国等一些国家和地区广泛存在的现象，那就是不少科技公司使用人类员工来假装为AI系统。而另一些公司名义上使用AI来进行内部管理的环节，其实也仍采用了人工介入。另外，美国社交媒体企业、新闻网站不约而同地采用了将内容审核环节外包给海外低薪国家和地区的工人。

△凯特·克劳福德

第三个问题，那就是长期被广泛吹嘘的机器学习，并由此实现的AI效能，其实也建基于大量通过人类员工、消费者、志愿者所进行的对人类用户行为、情感、身份，以及相关图片、视频信息的标记。我们在使用各种互联网、移动互联服务时，经常被APP、小程序、网站要求要识别身份，按要求点击图片中的文字顺序，或者识别包含了多个元素中的某个特定事物，或者做出简单的数学题。其实这一切都是为了训练AI。

这其中产生的一个关联性问题在于，为了持续进行机器学习训练，互联网大厂大量收集用户信息、社会信息、场景信息，其实并未经过用户、其他有关企业以及监管部门许可，这些“都被一视同仁地抓取并收集到训练数据集中”，然后据此生成一个个AI模型。近年来，尽管人脸识别技术在很多国家都引发过不小的争议，推动监管部门出台规则，要求使用这类技术必须获得用户许可，但广泛的数据收集其实就完整地囊括了海量的人脸数据，并进行自动比对，经由人类员工审核后沉淀为互联网企业的数据资产。

第四个问题，就是AI数据收集、机器学习训练导致的衍生问题，也就是AI服从于其开发者、投资者、操纵者的政治和社会偏见，对于社会大众进行特定划分，然后进行评估。毫无疑问，这其实不免加入了人工干预，但这样的干预往往并不主动去纠正AI的偏见。

AI被训练对人类进行划分分类后，其商业和社会应用已经出现滥用的苗头：“通过一张脸部照片预测性别、种族或性取向，以及一个人在保释后是否会犯罪、是否有信用风险，或者犯罪是否‘与黑帮有关’”。

《技术之外：社会联结中的人工智能》书中还谈到，近年来美国军方通过与硅谷科技行业的密切合作，进一步提升了海外行动能力，增强了美国的单边主义行动效能，比如使用AI和无人机武器，打击千里之外的海外目标，无论AI识别的精准度有多高，都要尽可能做到先下手为强。而在美国国内，AI在执法机关、私人承包商、科技企业间的混杂应用，客观上使得少数族裔中下层居民更可能遭受执法误伤。