AI仿冒于东来卖货，上千账号被抖音封了！涉事方领罚15万

9月8日，抖音集团副总裁李亮在微博发文，称封禁了一千多个利用AI仿冒于东来语音、形象，违规营销带货的账号。李亮表示，抖音还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业违法所得并处罚款15万元。

南都N视频记者了解到，2023年到2024年，抖音相继颁布了《关于人工智能生成内容的平台规范暨行业倡议》与《关于不当利用AI生成虚拟人物的治理公告》。抖音在公告中明确反对利用AI进行低质创作，特别是针对违规使用AI生成虚拟人物发布的不实内容，将予以严厉惩处。

今年5月，抖音发布关于“AI起号”专项治理行动的公告，重点整治利用AI生成低俗猎奇视频、AI生成虚拟外国幼儿教育专家教授育儿内容、AI视频账号售卖教程、AI账号秘籍传授、引导规避平台AI标注、转让销售AI虚拟账号等行为。在平台站内，累计清理311条违规内容，针对心x甜、向xAi同城流量、瑞xxAI智习室等15个严重违规账号进行了封禁。

9月2日，抖音电商还公布了AI滥用案例。抖音电商公布的案例中，有少数视频创作者利用AI仿冒名人形象、声音和口型，用于商品宣传，误导不了解的用户下单购买。有账号合成某知名运动员父亲、哥哥的声音，并使用相同文案称“家里要盖新房”，借此博取流量。在这些AI合成视频中，往往挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接，误导消费者下单。

还有创作者利用AI创作不符合现实或不存在的商品内容，甚至夸大商品大小、量产等，涉嫌虚假宣传。少数创作者在直播间利用AI展示樟树港辣椒丰收的场景，辣椒的数量、分布和植株生长规律完全不符合现实农业，并在口播中夸大种苗的量产，误导消费者下单。

少数视频创作者利用AI制作与售卖商品完全无关的内容，从而吸引消费者关注。比如，创作者实际售卖产品为硫磺润肤露，但利用AI更改各地方新闻报道画面作为素材吸引用户关注后，讲解推销相关商品。

抖音电商表示，AI技术应在合规前提下合理使用，任何滥用、误用导致消费者权益受损的行为都将受到严格治理。平台将持续强化风险识别能力，推动人工智能合规应用，切实维护消费者合法权益，保障良好的电商生态环境。

采写：南都N视频记者 汪陈晨