澎湃思想周报｜AI与弗兰肯斯坦的怪物；跑者与被算法牺牲的健康

AI是弗兰肯斯坦的怪物吗

人工智能技术已然无处不在，而且日新月异，但对于人工智能究竟是什么，人们却始终无法达成一致。围绕人工智能的观点是如此混乱和极端，审慎清晰、不偏不倚的声音显得难能可贵。任教于瑞典于默奥大学的“负责任的人工智能”领域专家弗吉尼亚·迪格纳姆（Virginia Dignum）近期出版了新书《人工智能悖论：如何理解复杂的未来》（The AI Paradox: How to Make Sense of a Complex Future），《国家》（the Nation）杂志近期刊登了一篇题为“弗兰肯斯坦的悔恨（Frankenstein’s Regrets）”的书评文章对书中的观点展开了讨论。

《人工智能悖论》书封

迪格努姆提出的第一个悖论是，人工智能并未削弱人性，反而有助于厘清人类不可替代的本质。她指出，人工智能擅长“数据分析、逻辑推理和语言处理”等任务，却难以胜任涉及创造力、同理心、“道德与伦理辨别力”、“复杂推理能力”和“有关不同概念之间关系的推理能力”等任务，因此无论人工智能发展到多么先进的程度，人类的独特性永远不会被完全取代。

书评作者本·塔诺夫（Ben Tarnoff）指出，迪格努姆的这一观点将其置入了对人工智能的人文主义批评传统。自人工智能在1950年代诞生以来，其拥趸便坚信心智本质上是一种机器，因而将人类智能赋予机器是可能的，而包括哲学家德雷福斯（Hubert Dreyfus）、计算机科学家魏岑鲍姆（Joseph Weizenbaum）则认为人类的心智与机器截然不同，人工智能永远无法真正复制人类心智。迪格努姆阐释道：“（AI与人类）的核心差异并不仅仅在于能力层面，更在于‘存在’的本质。AI计算，而人类感受；AI迭代，而人类想象。”因此，她将AI定位为人类智能的辅助工具，负责处理烦琐事务，从而让人类得以专注于更具创造性、战略性和深刻性——也即更具“人性”——的工作中去。

然而科技行业并不作如是想。当下巨额资本涌入生成式AI热潮，意味着只有通过让大量劳动者失业，这些投资才能收到可观的回报。企业期望AI能够像人类一样工作，从而尽可能多地将人类劳动者排除出生产流程。尽管我们尚不清楚这一目标能在多大程度上得以实现，但AI编程工具的进步正在永久性地改变编程工作以及软件工程师的就业能力，而AI在这一领域的精进又被科技界视为“通用人工智能（AGI）”乃至“超级人工智能（ASI）”时代即将到来的预兆。但在迪格努姆看来，认为AI能够逼近甚至超越人类智能的观点实属荒诞，其逻辑类似于“既然我们能够不断提升飞机的飞行性能，那么很快飞机就可以下蛋了”。

迪格努姆进一步指出，AGI和ASI的概念根植于对人类智能的误解。当今人工智能企业的雄心不仅仅是取代人类劳动者，还想要创造出远在人类之上的“盒中之神”——一个全知全能的单一科技系统。而事实上，智能不可能在纯粹的孤立中诞生，它始终是一项集体性的事业，人类的进化史表明，诸如协作、交流和群居等社会行为，不仅对生存至关重要，同时也正是人类智能发展的基石。迪格努姆认为，如果我们严肃对待认知中的协作属性，那么就会致力于创造出“与人类协作，从而拓展我们的能力，并提升集体智能”的人工智能系统。要完成这种转变，需要摒弃ChatGPT这类服务背后的巨型模型，转而采用一种更为模块化的方案：以一种尊重劳动者自主权和专业技能的方式，整合出小而专的人工智能模型。这种策略还有助于削弱科技巨头的垄断地位。《人工智能悖论》一书的核心论点在于，当下人工智能的发展轨迹并不是不可避免的宿命，我们必须抵制那种将人工智能描绘为一种超出人类掌控的、无法阻挡的力量的叙事，这种叙事让我们在技术变革面前变得消极被动，然而AI是由人类创造出来的，我们每个人都应该拥有发言权，共同参与塑造人工智能的未来走向。

塔诺夫指出，如果《人工智能悖论》一书在十年前出版，那么上述论断会更站得住脚，而诞生于2018年随后快速演进的大语言模型（LLMs），即构成生成式AI引擎的计算系统，对迪格努姆的某些主张构成了挑战。迪格努姆承认大语言模型代表着一项惊人的进步，但她仍然认为其与此前的AI系统有着同样的根本性局限，即无法实现“真正的理解”，而只是模拟从训练数据中提取出的模式。问题在于，尽管我们知晓大语言模型通过一系列机器复杂的计算流程习得预测能力的基本原理，但对于计算过程内部错综复杂的运作过程却知之甚少。因此学界对于大语言模型及其能力的界定存在实质性的分歧，这些分歧有时是经验层面的，而其他时候则是语义和哲学层面的争论，焦点在于如何定义“推理”和“理解”等术语。也就是说，尽管如迪格努姆反复强调的那样，人工智能是由人类创造出来的，但这并不意味着它将永远处在人类的理解和掌控范围之内。

《科学怪人》（1994）剧照

塔诺夫注意到，迪格努姆曾将大语言模型比作“一个认知层面的弗兰肯斯坦的怪物”，指大语言模型将人类语言的碎片拼凑在一起，从而看起来好像具有智能，但事实上缺乏真正的理解力和意向性。但塔诺夫指出，这一类比其实是对玛丽·雪莱原著小说的一种误读，因为小说中弗兰肯斯坦的怪物的确能够思考、感知和筹谋，他自学阅读，钟爱《失乐园》，渴望陪伴，并因痛恨主人将其遗弃而杀死了主人的妻子和兄弟。但塔诺夫认为，尽管和迪格努姆设想的不同，但这个类比的确可以在某种程度上成立。《弗兰肯斯坦》讲述的是人类与其“异类后裔”之间的关系，这个怪物由人类科学家亲手创造，甚至由人类肢体所拼凑，却因“不属于尘世的丑陋”而被所有人恐惧和仇恨；大语言模型一方面是人类智慧的结晶与人类文化的集合，而尽管输入的是“人性”数据，其实际运作却呈现出“非人”特质。因此，塔诺夫认为，我们不妨谨慎地将大语言模型视为某种类似“弗兰肯斯坦的怪物”的东西：一个源自人类血统、却无法完全为我们所用的异质物。在避免将其解读为已经具备感知能力或是带有超自然属性的前提下，关注其根本性的怪诞特质。

同时，塔诺夫也提醒我们对迪格努姆在人类和技术之间构建的对立关系保持怀疑，在他看来，今天的我们和技术之间的缠绕程度已经远超1985年唐娜·哈拉维首次将人类冠名为“赛博格”时的情形。大语言模型显然在某种程度上与人性实现了某种混杂，从而让大多数人将其视为至少是一种“准智能”。大语言模式揭示了“人类”这一范畴是可渗透的，同时人类倾向于将自我投射到自己的创造物之上，而这些创造物又能够反过来对我们施加影响。这并不一定是一件好事，现在已经有人因为和人工智能聊天机器人对话而精神崩溃，而维克多·弗兰肯斯坦亦在悔恨中死去。

文章最后指出，如何解读大语言模型至关重要，因为这会影响我们在政治层面对人工智能的应对方式。迪格努姆的建议是像曾经应对汽车那样为人工智能一套相应的安全保障措施，而此类防护机制应立足于公正、可问责、透明和保护个人权利的“人工智能伦理原则”之上，并通过“技术专家、伦理学家、政策制定者和社会各界”的持续对话来加以构建。塔诺夫指出迪格努姆的立场体现的是带有鲜明欧洲色彩的对“受规制的资本主义”的信念，这一信念源于其对于AI是工具的认知。然而如果我们把人工智能更恰如其分地理解为人类无法全然理解和掌控的“弗兰肯斯坦的怪物”，这一路径就变得不再具有可行性了。塔诺夫认为，如果任由这样一种技术对我们生活和工作的方方面面行使无限权力，那么结果可能是混乱和痛苦。在他看来，至少在短期内，我们最大的希望或许是采用遏制策略，将人工智能严格限制在特定的领域和功能之内，因为与“异类”的接触或许能有所收获，但异类的入侵必然是灾难性的。

Commonweal杂志上月刊登的“维特根斯坦的末日预言：人工智能与意义危机（Wittgenstein’s Apocalypse：AI and the crisis of meaning）”一文恰好可与上述书评形成互文。该文以维特根斯坦1947年的论断开篇：“认为科学技术时代是人类走向终结的开端，这并不荒谬。”文章作者亚历山大·斯特恩（Alexander Stern）指出，维特根斯坦所指的人类终结，并不主要指向科幻作品经常描绘的人类在生物生存意义上的终结，而是指我们所身处的“生活形式（form of life）”的终结。这种生活形式所面临的威胁，与其说是来自工业化、核武器、机器人或人工智能，不如说是来自一种将人类生活降格到科学技术层面的思维方式。

维特根斯坦认为，人类的“生活形式”体现在我们的语言之中，或者说体现在他所称的“语言游戏”之中——即我们在不同情境下为达成各种目的（有时甚至没有可识别的目的）而使用语言的各种方式： 例如，做家务、开玩笑、检验科学假说、报道事件、推测、请求、致谢、问候、祈祷、希望、发泄情绪、憎恨、爱等等。斯特恩从维特根斯坦处受到启发，指出大语言模型之所以无法像人类那样理解意义，是因为它们既不参与，也永远无法参与我们这种形式的生活。在已然相当严峻的意义危机以及与之相伴的政治、心理健康和教育危机当中，用大语言模型的输出作为真实人际交往替代品的提议是彻头彻尾的疯狂之举。而关于一群超级聊天机器人奴役或消灭我们的假想，其实不过是对这场更为真实的末日的转移视线。这场“末日”并非由技术产品本身驱动，而是源自我们对技术偶像崇拜式和消费主义式的信仰，这种信仰扭曲了我们对人类生命与人生意义的思考。维特根斯坦曾预见的这场“末日”，已然降临。

跑者、算法与被牺牲的健康

自几年前的疫情发生后，跑步运动经历了指数级的增长。2015年，伦敦马拉松的参赛人数为3.8万人；仅仅十多年后，2026年报名参赛的人数就超过了110万人。伴随着跑步这项运动的流行，各类跑步网红应运而生，向网友推广经过美化的“跑步生活方式”，并鼓励人们参与其中。跑步不仅作为一种运动复兴，也逐渐演变为一种可被媒介化和商品化的生活方式。

英国跑步应用 Runna

以英国跑步应用 Runna为例，它在 2023年拥有约7000名付费用户。尽管规模不大，但作为一款小众跑步应用，它通过巧妙融入推动健身文化的社群，实现稳定增长。伦敦的跑步俱乐部、马拉松训练小组、健身达人、微型网红，乃至整个线上健身圈，无论你关注谁，你都很有可能在他们的日常安排、动态或信息推送中发现Runna的身影。擅长社交媒体内容运营与网红推广的Tilly Woodford写道：Runna 不仅搭上了跑步潮流的顺风车，还与之共同发展壮大。在一段时间内，人们对这款应用的印象很简单：它代表着一种理想、一种自律、一种融入文化的象征，并且在跑步领域独占鳌头。

然而，随着代言人之一玛丽·麦卡锡（Mary McCarthy）遭遇应力性骨折，这款应用所塑造出的积极形象也遭受质疑。这种伤病通常是跑步者过度训练造成的，而玛丽所遭遇的是最为严重的4级骨折。一时间，人们开始批评这款应用会助长过度训练，质疑应用让人工智能指导训练的做法，并表示它可能使得一些用户运动失调。

玛丽·麦卡锡并非唯一一位经历应力性骨折的跑步网红。公众号“那个NG”的作者阿珂可在文章“白女，为什么集体骨折了？”中列举了包括Louise Stonham、Andreafit4等其他遭遇应力性骨折以及其他伤病的网红。值得注意的是，这些网红在遭受伤病后，并没有暂停训练的打算，甚至甘愿冒着健康风险训练。当训练已经对身体造成明确伤害时，为什么这些创作者仍然咬牙坚持？

在专家看来，一边骨折一边健身的视频会正常化有害训练观念，把网红们的行为当作真理，甚至有可能失去对科学医疗建议的信任。短短的几秒钟所带来的影响比任何人想象中都更加深远。

这种担忧并非毫无根据，相关研究表明：健身和跑步网红所呈现的内容可能让用户将理想身材内化，加剧对于自己身体的不满，在观看中进行比较。在这个意义上，这些创作者并非仅仅在展示自己的身体或训练内容，而是通过这些视频制定某种规范（norm）。在这些视频中，仿佛抛去对于伤病的合理担忧，无视必要的休息和恢复，一头扎进训练里才是值得被赞赏的做法。

另一方面，社交媒体对于极端内容的偏好，鼓励网红们冒着健康风险继续锻炼，以收获更多流量。正如阿珂可所写：“这种极端健康的内容自带流量的加持......视频的激昂节奏与动感音乐强化了受伤坚持的叙事，严重的创伤和躯体上的护具变成了光荣的徽章，康复成了一场盛大的表演。”讽刺的是，平台早已暗中对不同的生活方式做好了价值排序，并以流量作为衡量标准：“一个普通的、健康的肉体在网络上是没有价值的，平台会把更多的流量倾倒给更干净的生活记录和更极端的身体，造成无休止的恶性循环”。此外，如果在休养骨折期间，“平台认定网红达人们无法生产出有价值的内容，便会像抛弃一匹骨折的赛马一样抛弃这个吉祥物”。看似非理性的选择背后，是算法机制对于创作者的裹挟。在某种意义上，这些极端行为并非个人的冲动选择，而是被平台与算法所筛选出来以及放大的内容。

此外，一旦长时间停止训练，网红们将会面临没有内容可供更新、身材走形等一系列问题。在这一逻辑下，身体不再只是自然的存在，而是一种需要持续投资和维护的生产资料。网红的收入、可见性乃至身份认同，都建立在特定的身体形象之上。一旦停止训练，不仅意味着内容中断，也意味着身体资本的贬值。上述网红们都将自己的公共形象建立在特定的运动以及身体形象之上，因此她们必须通过训练与更新来维持其身份。对于她们而言，训练的意义不只在于训练本身，而是让这一行为能够被记录、剪辑和传播，从而帮助她们维持身份。

更微妙的地方在于，网红们并非专业运动员，却常常给自己的身体带来难以承受的压力。Dazed杂志的作者Chloe Gray举例道——运动营养师、运动员健康领域专家蕾妮·麦格雷戈（Renee McGregor）表示：“我治疗过一些网红，他们因为在开始跑步的第一年就参加多场超级马拉松比赛来博取关注，导致激素紊乱和骨折。还有一些网红则将自己的伤病归咎于不断收到大型比赛的参赛邀请，而他们又无法拒绝，因为跑步是他们的工作。”与运动员不同，运动员的训练计划中会安排休赛期，而网红们必须每天创作内容来迎合平台的推荐机制。这导致了全年无休的比赛和挑战文化，使得原本应该偶尔参加的长跑活动变得司空见惯。

如果仔细分析国内外的跑步网红们，不难发现她们恰恰是以身体作为资本实现了生产。她们通过赋予跑步不同的价值，向粉丝兜售被包装的生活方式，而这一切都建立在其身体之上。最终，她们通过课程、广告、带货实现收益。除了自然层面的感受外，她们的身体同时具有生产工具与被展示和消费的商品属性。这导致她们甘愿冒着健康风险继续训练、产出内容，只有这样做才能避免停止更新带来的亏损。当人们惊讶于跑步网红们对自己身体如此之狠时，或许我们应该意识到，在算法的体系中，健康不再是个人的目标，而是可以被暂时牺牲的代价。