希尔茨基：人人都在说“人工智能垃圾”，却无人能给出定义

如果你对时代潮流有一点敏感，你一定听过“AI 垃圾”这个词。这是对几乎所有由“人工智能”生成的东西的一种普遍蔑视，仿佛 AI 的参与使得产品本身就值得怀疑，甚至是危险的。

说 AI 垃圾无处不在很简单。“AI 垃圾正在堵塞你的大脑，” NPR 警告道。

这个抱怨的问题在于，几乎没有人去努力定义“AI 垃圾”是什么。它是指任何用 AI 生成的东西吗？还是任何出现在社交媒体上的此类内容？为商业广告生成的 AI 图像？任何旨在欺骗的内容？还是仅仅是为了政治目的而制作的欺骗内容？

虽然选举虚假信息在历史上一直存在，但生成性 AI 让风险加大了。

布伦南司法中心

显然，我们需要对 AI 垃圾进行分类：哪些表现形式仅仅是麻烦，哪些实际上是娱乐，哪些是对社会或政治秩序的威胁。从明显的玩笑式虚构到使用 AI 让政治家说话以通过欺骗影响选民，范围很广。

所以，现在是时候真正评估一下 AI 垃圾了：哪些是欺骗性的，哪些是有趣的，哪些仅仅是可以避免的麻烦。

我的同事 尼莱什·基斯托弗报道，确实有这样的事实，像 OpenAI 的 Sora 视频应用程序这样的工具，已经将生成名人、已故人物和受版权保护角色的未经授权深度伪造的成本降到几乎为零。一位专家告诉基斯托弗，Sora 被用户迅速采用，“侵蚀了我们辨别真实与合成的能力的信心。”

但这才是引发真正担忧的更高层次的发展。关于 AI 垃圾的许多担忧，主要集中在那些可能无处不在但其实无害的内容上。

例如，评论家和博主 Ted Gioia 对 AI 生成艺术的看法是：“垃圾艺术是平淡无奇的，笨拙的，陈旧的，无精打采的，常常是荒谬的。垃圾作品因其愚蠢和笨拙而受到赞扬——这些特征常常因文化模因的奇怪并置而被放大。”

Gioia 的目的是分析“垃圾的新美学”，但让我感到惊讶的是他的批评让我有种似曾相识的感觉。将“垃圾艺术”替换为“波普艺术”或“光学艺术”，几乎可以让人觉得是在阅读 1950 年代或 1960 年代主流评论家的长篇大论——例如 克莱门特·格林伯格。

这并不是说 AI 生成图像的创作者就具备那些早期艺术家的承诺和才华，只是每个时代都给我们带来了许多人觉得乏味、愚蠢、笨拙等的创作环境。

新形式的表达因技术进步而产生也并不罕见。“每一次媒体革命都会滋生垃圾和艺术，”《科学美国人》的 Deni Ellis Béchard 写道。“垃圾邮件、废话、点击诱饵、新闻轰炸式报道、庸俗——垃圾：这些都是描述大规模生产的低质量内容的方式。”

Béchard 提供了一个非常长的历史视角来分析这一现象，从古腾堡开始，他声称古腾堡的活字印刷术——“1450 年代的 ChatGPT”——开启了“廉价印刷材料的大规模生产。” 1700 年代早期给我们带来了“格拉布街”，廉价印刷材料如“讽刺、政治小册子、轰动故事和抄袭新闻……这些材料中有些确实是废话，但其中许多娱乐并教育了大众。”

AI 垃圾的泛滥和随之而来的担忧确实提醒了我们，正如《传道书》所说：“日光之下没有新事物。”

有些人似乎过于担忧。关于可口可乐新推出的人工智能生成的广告，描绘了森林生物聚集庆祝一系列送货卡车运送可乐假日用品的场景，引发了反响。

科技网站CNET认为，这则广告的普遍存在“是一个更大问题的标志，”但它并没有明确指出这个问题是什么。它批评说AI生成的图像存在人类动画师能发现的缺陷，以及可口可乐没有迎合“顾客对AI的厌恶。”

但我并没看到普通人对广告中AI的“厌恶”有什么明显的反应。无论如何，可口可乐在广告开头的字幕中承认这是由AI创作的。

确实，诉诸AI可以降低成本并减少制作任何特定内容所需的时间。这引发了创意专业人士失业的问题，这一问题让好莱坞的演员、编剧和艺术家，以及新闻界的其他人感到担忧，因为AI生成的事实错误是一个严重问题。

但如果担心的是，随着AI制作变得越来越逼真并渗透到商业领域，观众会被误导以为他们在屏幕上看到的是真实的，这似乎不太可能发生。观众不太可能认为一幅鸵鸟驾驶送货卡车的图像是真实的，就像他们在1990年代看到北极熊互相拥抱、手中拿着可乐瓶时，也不会认为那是真的，那时可口可乐的广告就已经利用计算机生成的图像，这正是当时的新兴事物。

这一切并不意味着人工智能生成的低质量内容总是无害的。我们最应该担心的种类是宣传——确切地说是政治宣传。在2024年选举前夕，人工智能生成的党派深度伪造内容在网络上大量涌现。

其中一个视频声称显示拜登总统贬低变性女性。“你永远不会成为真正的女人，”伪造的拜登说。“你没有子宫，你没有卵巢，你没有卵子。你是一个被药物和手术扭曲成自然完美的粗糙模仿的同性恋男性。”视频最后“拜登”暗示自杀可能是这些女性不可避免的归宿。

这个视频粗糙到很快就被揭穿为假；甚至连保守派也发出了警报。“虽然音频的声音和语调与乔·拜登的声音完全一致（除了通常的口误），但嘴部动作远非令人信服，” PJ Media的马特·马戈利斯写道。“然而，深度伪造的拜登声音的惊人真实感实际上是令人恐惧的。如果没有伴随的视频，很容易得出这个演讲是乔·拜登真正发言的结论，这引发了人们对这项技术可能被恶意利用的严重担忧。”

另一个深度伪造视频是由佛罗里达州州长罗恩·德桑蒂斯的总统竞选团队发布的。这个视频试图将唐纳德·特朗普（德桑蒂斯正在挑战他争取共和党提名）与安东尼·福奇博士（被德桑蒂斯妖魔化的强制接种COVID疫苗的政府流行病学家）联系起来。深度伪造的视频描绘了特朗普拥抱福奇。

德桑蒂斯的竞选团队在不久后就崩溃，辩称该视频仅仅是社交媒体帖子，而不是官方竞选广告。最初发布视频的推特最终附上了标签，标识其为人工智能伪造内容。

在选举活动的激烈竞争中，故意欺骗往往能成为胜利的手段，人工智能生成的伪造内容可能会找到它们的目标。“虽然选举虚假信息在我们的历史上一直存在，生成性人工智能加大了风险，”纽约大学法学院的布伦南司法中心去年警告说。“它改变了数字欺骗的规模和复杂性，并预示着与检测和认证相关的技术概念的新词汇，选民现在必须面对这些问题。”

当最新一轮人工智能技术处于初期阶段时，深度假冒相对容易识别。关于识别伪造品的指南被广泛发布，基于该技术无法正确处理某些事物，产生六根手指的手、看起来不自然的头发和脚，以及阴影落在错误的位置。

随着技术的进步，这些伪影消失，使得它们“更容易误导那些试图揭露人工智能生成伪造品的侦探”，布伦南中心指出。去年，它发布了关于如何在现代人工智能时代识别伪造品的建议——寻求“来自可信独立事实核查者的权威背景”，并“以批判的眼光看待情感充沛的内容，因为这样的内容可能会影响判断，使人们容易受到操控。”

当然，政治深度伪造的传播者旨在短路这些批判能力，所以建议大家不要上当，尤其是在选举前，选民们被大量竞选垃圾信息淹没时，这听起来并不是个有效的保护措施。

随着时间的推移，人工智能生成的低质量内容可能会成为它自己的最大敌人。除了那些最普通内容的消费者，人工智能生成的娱乐内容并没有吸引到更多观众。即使在这些情况下，人工智能内容基本上也是人类创作的拼贴。这发生在上个月一首人工智能生成的乡村歌曲在公告牌乡村数字销售榜上排名第一。然而，这首歌的声乐风格和其他创意元素是来自一位真实艺术家布兰科·布朗，他对这首歌的创作毫不知情。

这说明，人工智能的低质量内容衰落可能不是因为消费者厌恶，而是因为大家觉得无聊。娱乐内容的目标是让观众与人类创造力产生联系，而人工智能除了表面上无法复制这一点。

随着技术变得如此便宜，以至于任何人都可以使用，我们可能会被一波低质量的胡乱创作所淹没。挑战在于如何从无害的内容中筛选出真正危险的东西。