抖音对AI网红下手了

抖音打击AI网红

AI时代，几乎人人都说每个行业和产品都值得重做一遍。近几年来，社交媒体上就涌现了一批AI网红，开始四处寻找机会变现。

所谓的AI网红指利用人工智能技术创造出来的虚拟人物，通过社交媒体平台进行内容创作和互动，吸引粉丝关注。

当然，利用AI通过正当手段获取利益无可厚非，但是不惜手段博眼球牟利就有可能违规甚至违法。

比如在社交媒体上有的账号人设为俄罗斯美女，其自称“在中国生活”“想嫁中国男人”“感谢中国”流量变现带货，消费爱国心理。

在这个AI网红大火后，有名外籍控诉该账号盗用其面孔和声音。匪夷所思的是，有网友称“看不出来是AI生成的”

图源：截自微博

而有的甚至利用AI生成俊男美女虚假形象，直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。

在AI技术发展如此快速的今天，AI乱象层出不穷，社交媒体平台也在不断打击AI违规行为。

今日，抖音方面称平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。

抖音平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。

针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。

对于用AI生成虚拟人物的违规行为，抖音列出了几个典型范例。主要包括利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容。

图源：截自抖音安全中心

另外，抖音平台明确，包括创作者、主播、用户、商家、广告主等在发布生成式人工智能技术时要遵循相应规范。

具体来看，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。

发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的；虚拟人需在平台进行注册，虚拟人技术使用者需实名认证；

禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等；禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。

实际上，不管AI发展到什么程度，它始终是作为推进人类社会进步的辅助工具。那么AI作为工具，往好的方向用自然是大有裨益，如果使用不当，遭到抵制是迟早的事，毕竟事在人为。

揭秘AI网红生意经

现如今社交媒体开始涌现一批AI账号带货，背后其实衍生了一条产业链。

据中新网，有一位运营了多个AI外国美女账号的人介绍，打造此类账号的技术难度和成本并不高，通过AI肖像克隆软件和真人视频素材就可以实现，目前业内已有一些成熟的生成类软件。每个账号每天耗费一两个小时，主要以积累粉丝、带货为目的，粉丝以中老年人为主。

比如抖音账号“巧克力，小柠檬”，其账号为一个中年美女情感导师形象，内容大多是绕不开男人与女人之间的情感问题。

在抖音已经出现不少“巧克力，小柠檬”的同类型账号，他们的用户画像大多聚焦40岁以上男性，同时借助美女形象批量输出情感鸡汤，最后靠商品橱窗和专属会员等方式变现。

图源：新榜

此外，除了运营账号带货之外，他们还售卖此类账号的素材和运营辅导，收费为2980元，带货所得与学员均分。

甚至，还有教程在电商平台售卖。在电商交易平台上输入“AI美女”，即可看到“新手日入2000+”“5分钟制作视频”“赶快做个账号吧”等极具诱导性的宣传语，多以网盘的形式发货，标价在几元至几十元间。

图源：中新网

但这样使用AI带货的风险很大，使用他人肖像合成AI视频进行直播带货，可能会涉及到对于买方的虚假宣传，甚至欺诈，很有可能得不偿失。

早在2023年5月9号，抖音就发布了《抖音关于人工智能生成内容的平台规范暨行业倡议》，规范表示，虚拟人主播需要进行实名注册，同时需要标明“虚拟人直播”。这意味着，试图无限接近真人的仿生人主播，依然要面临观众的直接审视。

还有业内人士表示，自然人享有肖像权，民法典明确规定，使用他人肖像需要经过他人的事前同意，否则构成肖像侵权。

需要注意的是，肖像侵权的构成要件不包括以盈利为目的，即使并非以盈利为目的使用他人肖像，仍然构成肖像侵权。

“即使被侵权方在国外，也并不影响关于侵权的认定，不过他们维权比较困难，成本比较高。”

同时，某种情况下，制作未经授权的真人数字复制品也可能涉嫌构成刑事犯罪。比如利用他人的肖像合成的AI视频，从事诈骗等违法犯罪活动。

直播电商已经到了下半场

目前来看，AI网红涌现在各个社交平台的主要原因是低投入、高回报、高效率，但随着AI条例更加规范，平台监管也愈加严格，用AI做生意不一定能长久。

毕竟这种根据虚构的人设定位吸引消费者购买的行为可能存在欺骗嫌疑。再者，直播间要能赚钱，靠的是人、货、场三者良好的经营。

首先，在带货行业中，建立信任机制是非常重要的。如果博主或主播所推荐的商品与实际不符，消费者很可能会失去信任，毕竟在带货过程中，透明度和诚实是赢得消费者信任的关键。

另一方面，主播逐渐成为消费者下单的重要一环。主播与粉丝之间的情感连接也对消费者的购买意愿产生影响。比如董宇辉通过幽默风趣、出口成章的才华吸引了一大批“丈母娘”粉丝。

再来看，直播带货的成功离不开供应链的支持。在直播电商下半场，需要更加注重供应链的管理和优化，确保产品的质量和供应能力。因为供应链的稳定性和可靠性对于直播带货的持续增长至关重要，否则是不能长久做下去的。

另外，在下半场，主播需要更具备更加专业的知识能力，专注于带货，提供优质的产品推荐和服务。

目前来说，AI的工具属性对于直播电商行业确实是产生很大的变革，但作为使用工具的人，需要将其价值利用好，否则就会适得其反。

作者 | 李迎