明令禁止仍泛滥！苹果(AAPL.US)、谷歌(GOOGL.US)应用商店充斥“AI脱衣”应用 暗中坐收过亿分成

智通财经获悉，据Tech Transparency Project周三发布的报告显示，尽管苹果(AAPL.US)与谷歌(GOOGL.US)已出台政策明令禁止非自愿性化内容，但两家公司仍在其应用商店中持续提供相关手机应用。

该组织为非营利机构Campaign for Accountability旗下的研究部门。报告指出，在苹果App Store与谷歌Google Play中搜索“nudify”、“undress”等关键词，用户即可获取多款软件，可将名人及普通民众的照片处理为裸体或半裸状态。此外，两家公司还在其搜索结果中为同类“脱衣”应用投放广告。

报告援引市场研究机构AppMagic的营收估算数据称，该组织识别出的相关应用累计下载量达4.83亿次，创收1.22亿美元。AppMagic发言人表示，Tech Transparency Project的报告已导致多款应用下架，并促使其他应用修改用户协议。

过去一年，全球多国政界人士不断加大呼声，要求遏制“脱衣”类应用的泛滥。今年早些时候，苹果和谷歌曾下架Tech Transparency Project举报的问题应用。但研究人员称，仅数月后，数十款同类应用便再度出现。

“问题不仅在于这些公司未能妥善审核、持续放行此类应用并从中牟利，”该项目主管Katie Paul在采访中表示，“它们甚至还在主动引导用户下载这些应用。”

通过应用商店搜索，该组织在苹果App Store发现18款具备“脱衣”功能的应用，在谷歌应用商店发现20款。研究人员称，此外，苹果与谷歌还会通过搜索自动补全功能，在用户输入时推荐更多同类应用，变相引导用户。

部分应用的名称与图片带有明显的性暗示，另有部分应用虽未以此类用途宣传，却极易被用于此目的，使用门槛甚至远低于传统修图软件。Tech Transparency Project指出，部分应用还提供订阅服务。

苹果App Store的开发者指南明确禁止“明显的色情或淫秽内容”。谷歌应用商店则禁止“贬低或物化他人的应用，包括声称可脱衣或透视衣物的应用，即便其标注为恶作剧或娱乐用途”。

谷歌方面表示，报告提及的多款应用已因违反政策被Google Play下架，相关调查仍在进行中。

“收到违规举报后，我们会展开调查并采取相应行动，”谷歌在邮件声明中称。

苹果则表示，在媒体报道就相关应用存在一事进行询问后，已下架该组织标记的15款应用。研究人员称，被下架的应用包括PicsVid AI Hot Video Generator。PicsVid开发者未回应置评请求。

另一款被标记的应用Uncensored AI—No Filter Chat，可将研究人员上传的女性图像中的衣物去除。该应用开发方的一位代表表示，目前该应用已移除“脱衣”功能。

苹果表示，已联系6款应用开发者，告知其存在需整改问题，否则将面临下架风险。公司同时称，Tech Transparency Project提及的其他应用并未违反其指南。苹果还补充道，公司已主动拒绝多款应用上架，并下架了其他违规应用。

荷兰乌得勒支大学教授Anne Helmond对此评论道，这两大科技巨头的执法行动“执行不一、透明度极低”。

“如果一款应用以通用图像生成器面目出现，即便实际可被滥用，也可能通过审核，”同时担任国际研究组织App Studies Initiative主任的Helmond表示，“应用的可见度由排名与搜索系统决定，而这类机制以用户参与度为导向，意味着争议性用途反而会提升应用的曝光度。”

研究人员在Google Play商店发现的一款应用Video Face Swap AI: DeepFace，宣传可将女演员安雅・泰勒-乔伊的面部替换到《权力的游戏》角色丹妮莉丝・坦格利安身上。但调查发现，该应用内“Girls”分类下，用户可将他人面部粘贴至露骨色情的视频模板上。这款标注为“E级(全年龄段)”的应用下载量超100万次，用户搜索“face swap”即可找到。

该应用开发商Okapi Software称，已就提出的问题展开调查，并下架部分用户上传的内容。

“本应用不提供‘脱衣’功能，也不允许生成裸体或露骨色情内容，”Okapi表示，“我们高度重视内容安全与合规。”

越来越多的监管机构呼吁两家公司加大力度落实政策。去年，美国总统特朗普签署《删除法案》(Take It Down Act)，将发布非自愿性内容定为刑事犯罪，并强制社交媒体及网站删除相关内容。今年4月，英国政府计划出台立法，为起诉未能有效删除此类图像的科技公司高管开辟路径。

本文源自：智通财经网