人工智能时代，AI为谁服务、谁在获利、谁被剥削?

我们生活在AI时代。AI是拯救人类的利器，还是巩固不平等的装置？

《AI的批判理论》拒绝将AI视为单纯的技术问题，而是从批判理论的角度，深入考察AI这一具有变革性的社会政治现象。作者指出，AI是由算法、数据、资本、劳动和意识形态等元素共同构成的“装配”。从肯尼亚贫民窟的数据标注员，到被算法支配的平台骑手，从女性化的语音助手，到被算法忽视的黑人患者，这一切都表明，AI既不独立于人类，也不中立，而是与人类劳动具有深度联结，并在社会的方方面面复制和强化种族主义、性别歧视等偏见。AI无法从根源上解决社会问题，因为问题从来不在代码里，而在塑造代码的社会结构之中。

《AI的批判理论》，[瑞典] 西蒙·林德格伦 著，周亦张 译，南京大学出版社出版

>>内文选读：

工作中的AI

AI与劳动的关联体现在多个层面。其一便是玩工现象：社交媒体平台、购物与流媒体网站，以及更广泛的互联网的用户，其日常活动中会留下数据痕迹，这些痕迹被企业利用并在算法系统（例如定向广告）中被价值化。正如信息系统研究者克莱尔·英格拉姆·博古兹所举的例子，数据痕迹会被用于通过机器学习开发模型。在此语境下，需要从理论层面重新定义那些让用户既享受又获益的线上活动，将其解读为劳动。事实上，资本家正剥削用户免费提供的内容与数据痕迹，而这些活动未必会被用户自身视为剥削。然而，这种逻辑不仅适用于社交媒体平台的使用，也适用于任何类型的AI驱动产品的使用。在分析亚马逊智能音箱Echo时，克劳福德与乔勒（2018, Ⅵ）解释道：

在亚马逊Echo这一具体案例中，用户购买了一款提供一系列便利功能的消费设备。但与此同时，用户自身也成为一种资源：其语音指令被收集、分析并存储，用于建构更庞大的人类语音与指令语料库。此外，用户还提供了劳动：通过反馈Alexa回复的准确性、实用性与整体质量，他们不断提供宝贵的服务。本质上，他们正协助训练亚马逊基础设施堆栈中的神经网络。

此外，还存在通过AI对员工进行的管控。2016年，前往伦敦《每日电讯报》上班的记者们发现，办公桌下方安装了标有“OccupEye”的小黑盒。管理层并未提前告知员工要安装这些新设备，但员工们搜索品牌名后才逐渐意识到，这些盒子是用来通过追踪热量与运动提供“自动化办公空间使用率分析”的。这一事件被新闻报道，工会也采取了行动，这些盒子最终被移除。为了合理化这一举措并为之辩护，《每日电讯报》管理层声称，其目的是帮助大楼实现高效的能源使用来促进环境的可持续性。但员工们仍怀疑，安装这些盒子的真正目的是“对员工表现进行大规模监控”。

如今，此类技术正越来越多地由AI驱动，这引发了关于伦理、透明度、问责制与隐私的新旧问题。

AI设备被用于管控员工，而AI设备本身的运转也离不开员工的参与。BBC科技记者戴夫·李在2018年的一篇文章中写道：

当AI按预期运行时，硅谷人士常称其“如魔法一般”。但这并非魔法，而是一位生活在非洲最大的贫民窟基贝拉（位于肯尼亚内罗毕）的二十六岁单亲母亲。每天，布伦达离开家，乘公交车前往内罗毕东区，与同一栋大楼里超过一千名同事一起，辛苦从事我们鲜少听说也更难目睹的AI开发工作。在八小时的轮班中，她创造着训练数据：以计算机能理解的方式准备的信息（通常是图像）……布伦达加载一张图像，然后用鼠标勾勒出几乎所有内容：人、车、路标、车道线，甚至天空，并标注是多云还是晴朗。以自动驾驶汽车为例，将数百万张此类图像输入AI系统后，它才能开始在现实世界中“识别”这些物体。据说数据越多，机器就越智能。

这篇报道勾勒出AI开发中劳动与剥削的一面：布伦达和同事们紧盯着显示器，小心翼翼地放大图像，生怕漏掉一个像素，以免负责检查工作的上级将任务退回。

其中还暗含某种悲剧性的游戏化设计。李报道称，“最快、最准确的训练员”，“办公室里诸多电视屏幕中的某一块会显示他们的名字，这是一种荣誉，而最受欢迎的福利莫过于购物券”。布伦达和她的同事们为一家服务于微软、谷歌等公司的旧金山企业工作，因此，这些劳动者整理的信息，实则是硅谷规模最大、曝光度最高的AI项目中至关重要的组成部分。

从更广泛的政治与经济地理视角看AI与数据化的影响，阿罗拉（2016）指出，这些现象的发展将全球南方置于“金字塔底层”。加州意识形态的新自由主义视角推行一种“服务于共同利益”的包容性资本主义。这在实践中边缘化了一种批判视角，即AI与数据化是如何对新兴经济体中的人产生实际影响的：这些人被询唤为新的消费者基础和零工，仅仅是为全球北方利益服务的数据节点。来自基贝拉贫民窟的AI劳动者身处卫生危机与清洁用水极度匮乏的环境之中，显然并非他们为之工作的行业的受益者。李的报道继续探访了布伦达所在公司撒马源的办公室，并就其商业园区环境及现代化设施与更广泛的社会地理的差异进行了反思：

若不往窗外看，你可能会以为自己身处硅谷科技公司。墙壁上覆盖着波纹铁皮。然而，这种在加州被视为时髦的风格，在此处却提醒我们许多劳动者的出身环境：约75%的劳动者来自贫民窟。

在AI与社会的交会处，人类劳动的隐蔽性以多种形式存在。此类工作场所正是卡斯特尔斯所描述的黑洞的有形物理体现。基贝拉贫民窟这样的黑洞构成了网络社会的阴影层。它们形成了一个“第四世界”，“由全球范围内社会排斥的多个黑洞组成”。它们存在于每个国家、每座城市，甚至技术发展迅速、惠及众人的地方，隔壁就住着穷人、被剥削者和失败者。

AI革命与此前其他技术和数字革命一样，急需这些阴影地带。每一个赢家背后都有九十九个输家。当资本积累时，由于AI资本主义“选择性分类”所造成的社会和经济排斥，布伦达这样的劳动者正不断变多。AI时代的兴起与随之而来的劳动者异化密不可分。李嘉图的预言振聋发聩：“机器运转离不开人类协助，机器制造更离不开人类劳动的贡献。”