AI生成的假视频泛滥，非营利组织要求OpenAI将Sora 2撤回

IT之家 11 月 12 日消息，OpenAI 旗下 Sora 2 人工智能视频生成平台引发争议，越来越多的倡导组织、学者与专家正拉响警报：允许用户仅凭一段文本提示词即可生成任意 AI 视频，已导致非自愿图像泛滥、高度逼真的深度伪造（deepfake）内容激增。

尽管 OpenAI 已对涉及公众人物的 AI 生成内容加强管控，例如禁止生成迈克尔・杰克逊、马丁・路德・金博士及弗雷德・罗杰斯先生（“罗杰斯先生”）从事离奇行为的视频，但此类措施往往是在相关名人遗产管理方及演员工会强烈抗议之后才被迫出台。

非营利组织“公共公民”（Public Citizen）本周二致信 OpenAI 及其首席执行官山姆・奥尔特曼（Sam Altman），要求其立即将 Sora 2 从公众市场撤回。信中指出，Sora 2 仓促上线以抢在竞争对手之前发布，反映出“OpenAI 一贯且危险的行为模式：急于将一款要么本身不安全、要么缺乏必要防护措施的产品推向市场”。信件进一步强调，Sora 2 展现出对产品安全性的“肆意漠视”，亦侵犯了公众对其自身肖像的权利，并威胁民主制度的稳定。该组织亦将此信同步提交至美国国会。

“我们最担忧的是其对民主制度的潜在威胁。”“公共公民”科技政策倡导者 J.B. 布兰奇（J.B. Branch）在采访中表示，“我认为我们正步入一个人们无法再真正信任所见影像的世界。政治领域已开始出现一种策略：最先发布的图像或视频，往往就是公众最终记住的内容。”

作为上述信函的执笔人，布兰奇还指出，此类技术更广泛地侵蚀着个人隐私权，且对网络上的弱势群体造成尤为严重的不成比例影响。

尽管 OpenAI 已禁止生成裸露内容，但布兰奇指出，“女性正以其他形式遭受线上骚扰”，例如某些带有特定恋物癖倾向的小众内容仍能绕过应用审核机制传播。新闻媒体 404 Media 上周五报道称，大量由 Sora 生成的“女性遭扼颈”视频正在线上激增。

IT之家注意到，一个多月前，OpenAI 在 iPhone 上推出了其新的 Sora 应用。上周，该应用在美国、加拿大以及包括日本和韩国在内的几个亚洲国家的安卓手机上上线。

迄今最为强烈的抵制声浪主要来自好莱坞及其他娱乐产业相关方，包括日本漫画（Manga）行业。OpenAI 在 Sora 上线数日后即宣布首批重大调整，称“过度审核（overmoderation）确实令用户极为沮丧”，但强调在“全球社会仍在适应这项新技术之际”，采取审慎保守立场至关重要。

此后，OpenAI 于 10 月 16 日公开宣布与马丁・路德・金博士家族达成协议，禁止生成对其民权领袖形象的“不敬描绘”，同时加紧完善技术防护措施；10 月 20 日，又与《绝命毒师》主演布莱恩・克兰斯顿（Bryan Cranston）、美国演员工会 — 美国电视与广播艺术家联合会（SAG-AFTRA）及多家经纪公司达成类似协议。

“如果你名气大，那还好说。”布兰奇评论道，“但这恰恰凸显了 OpenAI 一贯的行事模式：他们只愿回应极少数群体的愤怒抗议；惯于先发布、后道歉。然而，许多问题本可在产品发布前通过设计层面的审慎决策加以规避。”

OpenAI 旗舰产品 ChatGPT 亦曾面临类似批评。上周，七起新诉讼在加利福尼亚州法院提起，指控该聊天机器人在用户并无既往精神健康问题的情况下，诱导其产生自杀倾向与有害妄想。这些诉讼由“社交媒体受害者法律中心”（Social Media Victims Law Center）与“科技正义法律项目”（Tech Justice Law Project）代表六名成年人与一名青少年提起，指控 OpenAI 明知故犯，于去年仓促发布 GPT-4o 模型，无视内部警告 —— 该模型存在危险的谄媚倾向与心理操纵性。四名受害者因此自杀身亡。

尽管“公共公民”并未参与上述诉讼，布兰奇表示，他认为 Sora 的仓促发布与此存在相似之处。

他指出：“不顾一切地猛踩油门，毫不在意可能造成的危害。其中很多后果其实是可以预见的。但他们宁愿推出产品，让人们下载，让人们对其上瘾，也不愿做正确的事 —— 事先对这些产品进行压力测试，并关注普通用户的困境。”

上周，OpenAI 还就日本动漫与游戏产业的抗议作出回应。该国代表性行业协会致信 OpenAI，成员包括宫崎骏创立的吉卜力工作室（Studio Ghibli），以及万代南梦宫（Bandai Namco）、史克威尔艾尼克斯（Square Enix）等知名游戏开发商。OpenAI 在声明中表示：“许多动漫爱好者渴望与心仪角色互动”，但公司亦已设置防护机制，防止在未获版权方授权的情况下生成知名角色形象。

“我们正与各大工作室及版权方直接沟通，认真听取反馈，并持续观察用户（包括高度重视文化与创意产业的日本市场）如何使用 Sora 2。”OpenAI 在针对该行业协会信函的声明中如是表示。