北京
一段逼真的AI视频在网上疯传，它是哪个模型生成的？现在有工具能回答了。
加州大学河滨分校的研究团队开发了一个名为SAGA的系统，全称“生成式AI视频来源归因”。它不仅能判断视频是否真实，更重要的是，它能将这个虚假视频一路追踪到背后真正生成它的AI模型。
这个项目由该校博士生Rohit Kundu和电子与计算机工程教授Amit K. Roy-Chowdhury主导，并与YouTube和Google DeepMind的研究人员合作完成。该项目瞄准的正是当下生成式视频越来越真假难辨的痛点——单靠肉眼已经无能为力，而传统检测工具往往只能说“这是假的”，却说不清假在哪里、从哪来。
SAGA的做法有点像给每个AI视频生成器验指纹。不同的AI系统在合成画面时，会不知不觉地留下极其微妙的视觉模式。这些模式对普通人来说或许毫无差别，但在算法的凝视下，却像签名一样独特。
视频和静态图像最大的不同就在于画面是流动的，一帧帧之间有运动、有变化，尺度、光影、纹理都在微妙地滑动。SAGA正是抓住了这一点：它同时研究单帧画面的细节特征与整段序列的演进规律。团队使用了一种叫做“时间注意力签名”的技术，通过在大量生成视频中平均这些跨帧的特征模式，为每一个AI系统建立起独一无二的档案——就像用无数例字迹为一个人刻画出笔迹特征。
在测试阶段，SAGA经受了涵盖文本生成视频和图像生成视频两大类型的19款AI视频生成器的考验。它能完成三个层次的任务：第一层，判断一个视频到底是真的还是AI造的；第二层，如果确认是生成视频，它可以区分原始输入是纯文本指令，还是一张图片；第三层，它甚至能进一步告诉你，这个视频很可能出自哪一支开发团队之手。
SAGA的出现，把对虚假视频的防御从简单的“真伪鉴别”向前推了一大步。当一条恶意剪辑的视频在社交网络迅速扩散时，知道它由哪个模型生成，意味着调查人员可以溯源至工具的发布者、使用者的痕迹，从而追踪整个虚假信息链条。对于监管机构来说，识别生成来源有助于落实透明性规则，要求平台和模型开发者承担相应责任。而对科技公司而言，这种溯源能力能让它们更清楚地掌握虚假内容在自家服务中的传播路径和规模。
研究团队也坦承，AI生成与检测之间永远是“猫鼠游戏”。生成模型的每一次升级都会给检测工具带来新的压力，但像SAGA这样的技术可以显著提高恶意行为者的隐匿成本——他们不再只是编造一条假视频，还必须考虑如何彻底擦掉模型留下的“指纹”，而这随着归因技术的演进会越来越难。
从学术研究到现实落地，SAGA需要继续拓宽它所支持的生成模型范围，并应对视频压缩、尺寸变换等实际传播中带来的特征损耗。但至少目前，它给出了一种新的可能性：虚假视频不再只是孤立的内容炸弹，而被重新放回其出处的坐标系里，让每一段伪造视频背后的技术源头变得有迹可循。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
