Meta在被媒体曝光后严厉打击Nudify"AI脱衣"应用

Meta 正在起诉一家公司，该公司在其社交媒体平台上宣传生成式人工智能应用，允许用户在未经同意的情况下制作虚假的他人裸体照片。此前， CBS 新闻上周发布的一项调查显示，Meta 的 Facebook、Messenger、Instagram 和 Threads 平台上发现了数百条此类数字脱衣应用的广告。此次起诉正是针对 Joy Timeline 的。

Meta 表示：“此次法律行动凸显了我们对此类滥用行为的严肃态度，以及我们竭尽全力保护社区免受其害的承诺。我们将继续采取必要措施，包括法律行动，打击此类滥用我们平台的行为。”

Meta 的诉讼具体目的是阻止总部位于香港的 Joy Timeline 在其社交媒体平台上列出 CrushAI 裸体应用的广告，此前该公司“多次试图……规避 Meta 的广告审查流程”。

此次法律诉讼紧随哥伦比亚广播公司（CBS）最近发布的一项新闻调查之后，该调查发现Meta平台上有数百条裸体伪造应用的广告。Meta当时告诉CBS，它已经删除了部分此类广告，删除了运行这些广告的账户，并屏蔽了与这些裸体深度伪造应用相关的URL。但Meta表示，由于剥削性的生成式人工智能应用不断找到新的逃避检测的方法，其政策的执行变得越来越困难。CBS的报道称，在Meta删除了调查中标记的应用广告后，仍然可以在Instagram上找到人工智能深度伪造裸体工具的广告。

CBS发现的许多广告都针对位于美国、英国和欧盟的 18 岁至 65 岁的男性。除了违反 Meta 的平台安全和审核政策之外，未经同意以数字方式“脱光”人们衣服的应用程序（绝大多数宣传是针对女性和女明星的）正在推动勒索和“性勒索”计划的增加，并且经常落入儿童手中。

404 Media于 2024 年 4 月发布了一份类似的调查报告，此前该公司发现 Instagram 上存在用于制作非自愿 AI 深度伪造视频的工具。苹果和Google随后从各自的应用市场中下架了报告中标记的应用。2024年 8 月，旧金山市也对 16 个访问量最大的 AI“脱衣”深度伪造网站提起了诉讼。