AI生成图像无法追溯训练数据来源，MIT研究揭示"归因衰减"现象

当AI图像生成器生成一张肖像画时，其中究竟融入了谁的创作？这一问题正处于全球多起诉讼、授权协议及法规提案的核心地带。艺术家希望获得认可，企业渴望厘清权责，政策制定者则希望找到明确的责任归属方式。

麻省理工学院计算机科学与人工智能实验室（CSAIL）一组研究人员的最新成果表明：对于在海量数据上训练的模型而言，这个问题往往根本没有答案。并非是现有追溯工具不够完善，而是那种关联本身已经消失。

研究人员发现了一种被他们称为"归因衰减"的现象——生成式模型训练所用的数据越多，任何单一训练样本对特定输出结果的影响就越小。这听起来违反直觉，但研究人员发现，在足够大的规模下，从训练数据中移除某一张图片，或者移除某位艺术家的全部作品，乃至某个人物的所有照片，生成的样本往往不会发生变化。

研究人员由此提出：如果移除某项内容对结果毫无影响，就无法认定该内容对输出负有责任。

"如果你删除一条数据，模型的输出没有任何改变，那这条数据就没有影响过输出结果，"该研究的第一作者、前MIT CSAIL研究员郑戴（Zheng Dai）表示，"因此，将输出归因于这条数据就毫无意义。如果你对每一条数据逐一如此操作，发现输出都不受影响，那将输出归因于其中任何一条数据都同样毫无意义。"

"此前所有的方法都是近似的，"MIT教授、CSAIL首席研究员大卫·吉福德（David Gifford）指出，"它们无法确切证明删除某一条数据不会改变输出结果。这篇论文首次提出了一种精确方法——你实际上是在删除输入及其所有影响。这是首个能够高效、大规模执行删除操作并确切验证结果不变的方法。"

郑戴与吉福德的研究以开放获取论文形式发表于《自然·通讯》。

重新训练之困

直接验证这一想法，意味着要回答一个"假设性"问题：如果模型从未见过某张特定图片，它会生成什么？诚实地回答这个问题，需要在排除该图片的情况下从头重新训练模型，再针对下一张图片重复这一过程，如此循环往复。面对数以百万计的训练样本，计算量之大令人望而却步。这也正是此前归因研究领域普遍依赖近似估算方式的原因——它们只能估计训练样本的影响程度，而非真正将其移除。

研究团队自主设计了一种名为"扩散集成"的架构作为解决方案。与单一的庞大模型不同，这种架构由多个小型组件构成，每个组件分别在不同的数据子集上训练。想知道模型在从未见过某张图片的情况下会有何输出？只需关闭接触过该图片的组件即可。无需重新训练，无需近似估算，剩下的便是一个真正意义上的反事实模型，而非对反事实的估计。

当然，一种精巧的架构，只有在仍能正常发挥生成功能时才有意义。为此，团队将集成模型与24个使用完全相同数据训练的常规扩散模型进行了对比测试。按照标准评估指标，两者生成的图像质量不相上下。

实验数据中还出现了一个令人惊喜的现象：训练数据越多，集成模型与单一模型之间的差距越小，暗示集成架构在数据利用效率上可能更具优势。

"数据量少的时候，它们表现很差，"郑戴说，"但数据量增加后，其扩展性实际上优于常规扩散模型。"

探索反事实的世界

消融实验得以有效运行后，研究人员终于能够大规模地追问他们最初的问题。以一张生成图像为起点，设想它的每一个"平行版本"——每个版本对应移除一条不同训练数据后的生成结果。研究团队将此称为该图像的"反事实宇宙"，而原始图像与差异最大的那个平行版本之间的距离，即"反事实半径"，正是任何单一训练数据所能产生的最大影响量的体现。

研究团队在规模从256张到逾16万张不等的数据集上训练了24个集成模型，数据来源涵盖CIFAR-10、CelebA、MetFaces和ArtBench等七个公开数据集。结论十分一致：训练集越大，反事实半径越小，且遵循反幂律递减规律。无论是逐像素比较还是语义层面的衡量，这一规律在统计上均显著成立。

研究团队也对自身结论进行了压力测试。或许是消融实验本身造成了偏差？他们在小规模数据上以暴力穷举方式重新验证，分别训练了1282个独立模型，衰减现象依然出现。或许只是因为数据集越大，每次移除的比例越小？他们固定移除比例后，衰减仍然存在。固定训练轮次、文本提示模型、类别条件模型、四种相似度指标……这一发现经受住了所有验证。

隐私保护的悖论

这一发现的影响方向，连研究人员自己都感到意外。

吉福德认为，该研究成果与"模型输出是否构成衍生作品"这一法律核心问题直接相关。

"一种理解方式是，这些模型具有创造性——它们并非简单地复制输入内容，而是在生成全新的输出。如果这些输出与任何单一训练数据毫无关联，那么就会引出一系列问题：什么是合理使用？这些输出本身是否可以作为新颖作品获得版权保护？当模型的输出无法归因于互联网上的任何内容时，作者又该如何获得补偿？"

吉福德还指出，这项研究展示了如何生成有保障的"不可归因"输出。他将这种能力定性为行业应承担的义务，而非一个可钻的漏洞。

"要让这些公司声称其输出不是对互联网内容的侵权性衍生，它们需要根据本研究的进展对模型进行改进，以此证明自己没有在创作对某个个人或某件作品的衍生。"

这项研究聚焦于扩散模型——目前在音视频媒体生成领域占据主导地位，并在蛋白质结构建模、药物发现等科学应用中广泛使用。至于同样的衰减现象是否也存在于当前最受关注的版权诉讼核心——大语言模型之中，目前仍是一个开放性问题。

"如果归因方法有效，它应该能可靠地告诉我们，模型输出与受版权保护作品之间的相似性，究竟源于抄袭还是巧合，"康奈尔大学法学院及康奈尔科技校区法学教授詹姆斯·格里梅尔曼（James Grimmelmann）表示，"但这篇论文提供了充分理由，让我们相信归因方法对真正重要的模型将会失效。技术人员和法院将不得不转而采用其他方法来评估复制行为。"

郑戴与吉福德的研究获得了施密特未来基金（Schmidt Futures）的资助支持。

Q&A

Q1："归因衰减"现象是什么？它对AI版权问题意味着什么？

A：归因衰减是指生成式模型训练数据越多，任何单一训练样本对特定输出的影响就越小。MIT研究人员发现，在大规模数据集上，移除某位艺术家的全部作品或某张特定图片，往往不会改变模型的生成结果。这对版权问题意味着：如果输出无法追溯到任何具体训练数据，就难以认定模型输出构成对特定作品的"衍生"，这将对现有版权诉讼和归因责任认定产生深远影响。

Q2：MIT的"扩散集成"架构是如何解决归因验证难题的？

A：传统归因研究需要从头重新训练模型来验证某条数据的影响，面对数百万训练样本时计算成本极高。MIT团队设计的"扩散集成"架构将一个大模型拆分为多个小型组件，每个组件训练于不同数据子集。想验证移除某张图片的影响，只需关闭接触过该图片的组件即可，无需重新训练，从而实现了首个大规模精确归因删除验证方法。

Q3：这项研究对AI公司和艺术家分别有什么影响？

A：对AI公司而言，研究表明其模型输出在大数据规模下难以被归因至特定训练内容，研究者认为公司有义务改进模型架构以证明输出不构成对个人作品的侵权衍生。对艺术家而言，这意味着即便其作品被纳入训练集，也可能难以在法律上证明模型输出与其创作存在直接关联，版权维权路径面临更大挑战。