Claude的原罪，也会毁了它自己

编者按：8月24日，《纽约时报》网站刊发了专栏作者查尔斯·格雷伯的评论文章《Anthropic公司AI产品Claude的原罪》。格雷伯是《良医》和《突破》两书的作者，也是Bartz等人诉Anthropic案中的具名原告之一。 该案虽然以15亿美元的创纪录金额达成和解，但法官最终裁定，使用书籍训练AI本身属“合理使用”，只有非法下载和存储的书籍构成版权侵权。 格雷伯作为当事人，对此难掩失望，将Anthropic“扫描、数字化并随后销毁了实体书籍”的做法称为“法律遮羞布”。 他还指出，更讽刺的是，持续盗用人类作品训练AI，正导致作者收入锐减、原创枯竭，最终可能反噬AI自身，引发“模型崩溃”的饥荒。他畅想未来的AI巨头会像曾经的美第奇家族那样挥霍财富，资助AI所需的高质量作品。 观察者网刊载格雷伯的评论全文，供各位读者参考。

【文/查尔斯·格雷伯】

我们需要谈谈一场潜在的“人工智能饥荒”。

如果我们无所作为，饥饿的AI聊天机器人最终或许只能以它们自己的回应为食。想一想复印件的复印件的复印件（如果你还记得复印件的话）——质量下降，错误被放大并占据主导。

其结果就是专家们所说的“模型崩溃”。想象一个世界，那里的人工智能垃圾甚至比现在更糟。那不是我们想要的未来。

我之所以了解这一点，是因为我为阻止我们走到如今这一步尽了自己的一份力。

柯克·华莱士·约翰逊（Kirk Wallace Johnson）、安德里亚·巴茨（Andrea Bartz）和我对Anthropic提起了集体诉讼。我们的诉由是盗版和版权侵犯。

Anthropic窃取了我们创作的书籍，因为它需要这些书来创建一个商业产品——一个专门设计用来模仿我们写作风格的生成式AI聊天机器人。但他们既没有征得我们的同意，也没有向我们支付报酬。这似乎不公平，而且是非法的。

盗版是一种与黄金一样古老的罪行——或者在现代数字语境下，就像Napster一样。（观察者网注：Napster是诞生于1999年的音乐文件共享服务，直接冲击了唱片业，法院裁定它侵犯了音乐家的权利，勒令关闭。）而知识产权盗窃几乎可以说是AI发展历程中根深蒂固的一部分。大多数（即便不是全部）AI公司都是建立在盗版基础上的——尽管他们可能称之为“合理使用”。

Anthropic的故事则有所不同。当许多AI公司从互联网上抓取素材时（包括《纽约时报》的内容，这也是OpenAI、Perplexity和微软目前因版权侵权被该报起诉的原因），Anthropic还通过一种秘密且昂贵的法律变通手段，扫描、数字化并随后销毁了实体书籍。

如果说这是Anthropic的法律遮羞布，那它确实起作用了。法官认定，使用Anthropic购买的实体书籍来训练AI属于合理使用，但非法下载和存储数百万本受版权保护的书籍（Anthropic也做了）则构成版权侵权。

我们的案件以15亿美元达成和解，这是美国历史上金额最大的版权和解案。我们的集体诉讼中涵盖了近50万部作品。在扣除费用和律师费（这个案子能成立，律师功不可没）之后，每本书的赔偿约为3000美元，而作者需要与出版商分摊这笔钱。

对于像我这样花费了大约14年研究和撰写两本书的作者来说，这笔钱几乎算不上改变人生。但在法律界，这被视为一次重大胜利，是非法下载单部作品最常见的处罚金额的四倍。

对Anthropic来说，盗窃是一笔精明的商业支出。

2021年，Anthropic是AI竞赛中一个起步较晚但雄心勃勃的参赛者。根据我们案件中与合理使用相关的裁定，其目标是创造一种能够写出“编辑会认可”，且消费者愿意为之付费的文字的人工智能。

这样的聊天机器人不能仅仅用推文和水军帖子来训练。它需要以工业规模模仿高质量的人类写作。

Anthropic的创始人兼首席执行官达里奥·阿莫迪想要避开购买和授权公司所需书籍的“法律/实践/商业上的繁重工作”。盗窃更快、更便宜。他们认为坚守道德的代价太高了。相反，该公司在即将进行的首次公开募股中预计估值将达到2万亿美元，这将是历史上规模最大的IPO。

但被盗素材的问题不会消失。

对许多作者来说，这可能是毁灭性的。而这正是AI饥荒可能埋下根源的地方。

我们曾希望我们的案件能有助于在AI时代确认版权的保护，以及艺术家和创作者控制自己作品的权利。我们希望法官能裁定，我们毕生的作品，无论以何种形式呈现，都不是一种可以违背我们意愿被拿走、并用来与我们竞争，甚至取代我们的免费自然资源。

但那并没有发生。

同一加州地区法院的另一位法官对判决持不同意见，尖锐地指出将营利性模仿机器与积极进取的小学生相类比是“不恰当的”（观察者网注：法官以此类比，来论证AI公司使用有版权书籍训练模型的行为，是“合理使用”。同一法院的不同意见，来自“Kadrey诉Meta”案中的查布里亚法官。），并对该裁定提出了质疑。

还会有其他案件，也会有其他法官持其他意见。这个问题远未尘埃落定。它将在法庭上被争论很长一段时间。

Claude的构建，并且可能至今仍在用我们受版权保护的书籍进行训练。据我所知，没有任何一家主要的AI公司不是这样做的。

几年来，作者们一直有一种感觉，即未经许可使用书籍进行训练所造成的损害对他们的生计产生了负面影响。本月发布的一份工作论文研究了2023年至今年3月间在亚马逊上销售的超过14000本书，将这种损害转化为确切的数字。

该论文发现，图书市场正日益被AI生成的垃圾内容淹没，这对出版商和作者产生了财务影响。这些垃圾内容迷惑消费者，并可能扰乱畅销书排行榜。越来越多地，即使是“人写”的书籍也受到了AI生成材料的污染。

对作者来说，AI垃圾内容造成的“市场稀释”将导致销量和收入损失。情况很糟，而且还在恶化。全职作者的收入中位数约为2万美元。几乎没有多少下降空间了。

但可悲的是，受伤害最大的可能是AI本身。AI不能仅仅通过在其自身输出上进行训练来持续改进。模型崩溃的情景有可能抹去像Claude这样的聊天机器人最初因接受书籍训练而获得的任何进步。

而更少的在职作者意味着更少原创的、无AI参与的书籍。对于贪婪的AI聊天机器人来说，这是一个潜在的死亡螺旋。对作者和Anthropic双方而言，这是一个我们应该共同努力避免的未来。

总有一天，希望版权保护能够扩展到防止未经许可的AI训练。

在那之前，我们生活在一个法律灰色地带，坐拥巨额现金的大公司肆意掠夺个体创作者的权利。大公司会继续吃掉小公司，除非小公司能够团结起来。

我们有责任要求立法，将版权保护延伸到21世纪。许多国会议员似乎愿意这样做；产权保护对美国两党都有吸引力。

确认这些版权保护包括AI领域，甚至可能迫使AI公司雇佣人类作家，为它们的大语言模型创作原创作品进行训练。或许他们会开始像现代的美第奇家族那样挥霍财富，资助AI所需的高质量作品以保持敏锐。至少，他们可能会投资出版机构和写作项目，在迎来硅谷艺术启蒙时代的同时，抵御模型崩溃。

我为这一代艺术家感到担忧，他们正成长于又一个技术青春期，面临诸多文化和经济动荡的边缘。

但我并不为艺术本身的未来担忧。我们永远需要人类的媒介来诠释人类经验，将血肉之言付诸文字。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。