新书经眼｜AI时代的批判理论与虚拟偶像

《AI的批判理论》，[瑞典]西蒙·林德格伦著，周亦张译，南京大学出版社·守望者

未来还需要写书的学者吗？我们还需要不停地思考和表达吗？我们还能贡献机器无法实现的东西吗？——作者在ChatGPT仅用了一秒就开始逐字逐句地写出了“有关批判理论与AI的专著”的序言后发出了以上的追问。

但后来他意识到：“之所以我觉得自己写不出比这更好的序言，是因为这已经是我写的了，而不是机器。或者更确切地说，至少像我这样的学者已经在GPT获取的训练数据中，编写、发布和出版了这样的表达。它只是在模仿我们。如果我们思考新事物（并作为训练数据），未来的模型也将产生新的输出，因为它们将从人类最新的思考中学习，而不是因为它们会自己思考。”GPT的回答也印证了这一点：“作为OpenAI训练的一个大语言模型（LLM），我无法进行原创性研究或分析。我的功能是基于用来训练我的数据和信息，尽我所能去提供信息和回答问题。我可以对广泛的主题提供一般的信息和解释，但我无法进行原创性研究或分析。”

“机器只生产机器。”让·波德里亚在《邪恶的智能》中如是说。GPT的创建者也曾表示：“大型预训练语言模型并不依赖其他经验领域，例如现实世界的物理交互，因此缺乏大量关于世界的语境。”

作者在这本书中要探讨的是如何从批判理论的角度来理解AI这一具有变革性的社会政治现象——广义上的AI概念，包括与之相关的技术和现象，如数据化、机器学习和算法自动化——以及其社会和文化的背景与后果。作者将从装配的角度看待AI，也就是将它视为一种非常广泛且与社会纠缠在一起的现象。AI本身由几种不同的技术组成，并位于人类、政治、经济、文化、意义创造和权力的网络中。

作者强调，AI必须被理解为一种复杂而无处不在的装置(apparatus)，不仅涉及技术，还涉及人类、思想和社会行为。以这种方式看待AI，有助于进行更具批判性的分析和理解，将AI的历史性、偶然性和位置性纳入考量。而与社会中权力关系相关的某些思想对AI的开发和实施方式有着决定性的影响，这些思想在很大程度上借鉴了自由意志主义（liber-tarianism），以及对盈利与进步的愿景。着眼于意识形态如何嵌入AI并通过AI传播。这关乎AI系统如何倾向于为社会中的现有权力关系和主流意识形态（dominant ideology）服务。AI技术是社会产品，AI即人类，它们是在社会环境中被创造的，并在功能上以多种不同的方式依赖人类。当AI被物化，即被视为一种具体且不可简化的事物时，人们掩盖了这一事实：AI实际上是一种复杂的建构，因而可以被解构。由此，作者还特别关注了AI与工作的关系，以及这如何在当前的平台劳动（platform labour）、众包工作（crowdwork）)和算法管理的过程中表现出来，并重点批判了作为一种话语实践（discursive practice）的AI，它通过贴标签和排序的逻辑，将人们召唤到不同的社会角色中和地位上。通过AI的模型、预测和分类产生的意义与知识不是中立的。相反，它们根植于社会现有的权力结构和刻板印象，这意味着AI经常重复，有时甚至加强了具有压迫性、种族主义和性别歧视的社会关系。

《虚拟偶像、AI数字人与赛博生命》，刘书亮著，光启书局｜上海人民出版社

虚拟角色是当今文化消费场内最重要的面向之一，近年来，又因受到新技术的加持，虚拟数字人的浪潮滚滚而来，它是诸多艺术形态与技术发展的交叉路口，代表了消费者对虚拟角色的最新想象方式。作者在本书中正是就此做重点研究。

为便于论述与理解，作者从内容生产之技术手段切入，将目前市场上的主流数字人分为四大类别。第一类是基于动画技术与CG造型塑造的常规虚拟角色，典型的案例如Imma、Ayayi等。其常要借助各类社交媒体平台进行自我呈现，也即成为一名虚拟博主。账号背后的运营团队通过持续的内容策划与物料更新，以第一人称口吻来描绘和分享该角色的日常生活，不断巩固其性格特征与社会身份，进而形成了一种新型的、相对碎片化的叙事体：生活想象即叙事，人格塑造即品牌。第二类是由运动捕捉（motion capture）技术所驱动的，需要“中之人”参与的数字人。绊爱、星瞳等均是此类数字人的代表，她们因相应的技术可供性（affordance）而能够以直播的方式与用户实时互动。第三类是由AI驱动的数字人，典型案例如小冰等。此外，未经充分IP化的功能型数字人是该类数字人的重要发展方向。从社会价值的角度看，数字人可以分为文化娱乐型与实用功能型。功能型数字人常被冠以职业头衔，如AI智能客服、AI讲解员等；而娱乐性数字人是IP化的，其总体目标是成为虚拟明星、意见领袖、网络红人等。结合近期科学技术发展的总体趋势，这第三类数字人是该书讨论的重点。第四类则是以类似游戏化（gamification）方式为场景，常作为数字化身（avatar）呈现的数字人。当然，作者也强调了，这四种数字人绝非全然割裂，而是具备颇为契合的内在关联。

作者说：“数字人尚处于快速崛起、野蛮生长的阶段。它已经取得的成就跟引发的乱象并存。可以预见，这样的阶段不会很短暂，而是还将持续很长一段时间。它是赛博世界里的绝妙景观，背后是一个极为丰富的场域，包含着复杂的角色审美与消费路径。”

而作者希望通过本书尝试回答的，包括但不限于下述议题：虚拟形象或虚构角色，对数量庞大的粉丝们来说意味着什么？从传统意义上的动画形象到今天的数字人，人们对虚拟角色的消费方式有哪些变化？堪称“假”的数字人为何有机会“从事”人类的职业，或在现实中被冠以相应的头衔？由“中之人”驱动的虚拟主播与虚拟偶像，是否果真能替代真人网络红人与真人偶像？人们为何热衷于用花样繁多的方式打造自己的虚拟化身？现代性如何作用于数字人、生成式（generative）AI甚或整个虚拟影像领域的消费文化，又导致了何种后果？我们是如何看待人与非人之间关系的？这种观念如何影响了当今社会？

方晓燕