AI视频生成模型需要“护栏”

近日，字节跳动新一代AI视频生成模型Seedance 2.0上线内测，凭借多模态创作方式、自带运镜的呈现效果，迅速引起海内外高度关注。

Seedance 2.0为何这么火？此前绝大多数AI视频生成模型更像一个“素材生成器”，用户要多次“抽卡”才能选到满意的，Seedance 2.0则更像一名能够理解叙事逻辑、掌控视听语言的“AI导演”，一段简单的文字就能生成带有运镜、灯光等专业导演技能的“大片”，一次就能达到可用标准，角色一致性也很高。难怪有人称其为“当前地表最强的视频生成模型”，不少海外用户赞其效果“媲美好莱坞大片”。

Seedance 2.0官网称，“无论是单人还是多人场景，角色旁白、环境音效与画面均精准同步，真实感更强。”真实感，其实是一体两面的存在，既是吸引用户的关键，也会引发真相焦虑、信任危机等问题——

影视飓风创始人Tim一边感慨Seedance 2.0的出色能力，一边在测评视频中连呼6次“恐怖”，原因是他上传自己照片、公司正面照片后，Seedance 2.0自动匹配了他的声音、生成了公司大楼另一面的景象，“这基本上可以确定一件事，Seedance 2.0大量训练了我们公司的视频。”

由于国内外AI大模型都在使用公开数据进行训练，公众人物相关素材难免进入公开数据集被“喂”给大模型，导致后者对公众人物更加“熟悉”。但即便是公众人物，其人脸、声音等信息也是颇为敏感的，其正当权益应该得到保护。

此外，Seedance 2.0在“看图生音”“看正面生背面”上的“逼真”表现，也让人不得不对其滥用风险加以警惕。游戏科学CEO冯骥在称赞之余就直言，“逼真的假视频将变得毫无门槛，而现有的知识产权与审查体系会面临空前冲击”。这并非危言耸听。从数据特性角度看，相比于文字内容，声音和视频具有更强的个人与场景特定性，当前阶段数据使用的责任与边界问题，也因此更加凸显。

如今的Seedance 2.0，具有在国际上争先的势头。“Seedance 2.0们”想要成为头部，必须让治理跟上技术发展水平，这不是负担，而是可持续发展的“护栏”。

中国工程院院士邬江兴最近就提到，各国AI竞争的本质，是一场终点线模糊的马拉松式耐力比赛，决定胜负的关键并非哪个国家取得了突破性技术，而是谁能更高效地推动AI在各生态系统实现规模化渗透应用。实现AI大规模应用，首先就面临“安全信任壁垒”问题：对用户来说，需要确认AI到底有多安全，才能“敢用”；对关键行业来说，只有了解AI犯错会造成多大的影响、责任如何界定，才“敢推广”；对监管来说，知道AI安全如何衡量、监督和处置，才谈得上“敢管”。

由此可见，这个“护栏”需要企业“内生”，也需法律完善、行业自律等。实现多元协同治理，才能更好平衡技术发展与风险防控，让“真实感”的优势最大化、风险最小化。（维辰）

来源：南方日报