抖音治理恶意营销号滥用AI：生成“神医送福”“迎财神”等内容诱导点赞转发，生成中老年男性形象搭配告白音频吸引中老年女性关注等

10月28日，据抖音黑板报：抖音始终致力于打造开放、积极、多元、友善的内容生态。AI工具的普及，使内容创作门槛进一步降低，为广大创作者提供了更多便捷的创作方式与表达可能。然而，部分以流量变现为唯一目的的 “恶意营销号”，并未将AI工具用于正当创作，反而将其当作起号捷径，通过批量生成、复制爆款模板快速变现，持续侵蚀平台生态根基，严重挤压优质创作者生存空间，破坏公平竞争的创作环境。

近期，平台监测发现，部分恶意营销号通过AI工具快速扩大恶意营销内容的规模，不仅在内容形式与传播手法上带来新挑战，部分账号背后还存在教学黑产组织运营，违规手段迭代快、隐蔽性强。目前来看，AI恶意营销号主要存在三类问题：内容层面表现为低成本同质化、工业化量产；行为层面常伴随诱导互动；部分性质恶劣的营销号存在传播AI虚假信息的现象。为维护健康创作环境，平台针对此类滥用AI工具的恶意营销号进行持续治理，现将部分案例公示如下：

案例一：通过AI生成诱导互动内容骗取流量快速起号

此类行为主要利用AI生成“神医送福”“迎财神 ”“致敬军人”等祝福送礼类内容，诱导用户点赞、评论、转发，骗取流量快速起号。

例如，有450个账号发布此类内容，模板化特征明显，获得一定流量后企图通过带货变现。

另有账号持续发布AI生成的冲突类小剧场，内容聚焦家庭伦理、社会矛盾等 “爽文” 剧情，常在视频末尾以话术引导点赞求支持，并通过大量同质化内容、账号之间互相搬运抄袭快速批量起号。其中807个账号因同质化严重，已被处置。

案例二：通过AI仿冒公众人物蹭热营销带货

此类行为主要利用AI数字人、AI合成声线等技术，冒充公众人物或其亲属出镜，通过虚构事实博取信任后引导带货变现。

例如，部分账号使用AI数字人冒充名人亲属，以“谎称患癌、饮用某产品后痊愈” 等虚假养生案例博取信任，在视频结尾引导用户到商品橱窗下单。有1617个账号以此方式出镜带货，多个账号之间投稿内容一致、售卖产品一致，疑似由团伙统一教学，并假称获得 “抖音综艺” 授权引导用户加入机构，相关账号均已被处置。

另有账号以AI模仿名人声线配音加洗稿文案批量产出内容，并在同一主题方向批量起号，冒充公众人物本人传播相关信息。例如，有401个账号通过AI合成公众人物声线，批量产出语录或生肖讲解内容，部分账号售卖中医相关商品，营销意图明显，相关账号已被处置。

案例三：通过AI批量炮制虚假信息博取流量

此类行为主要利用AI生成虚假画面、虚假人设或模板化谣言，以此获取流量后进行营销。

部分账号批量进行矩阵起号，用AI生成家电爆炸等惊悚画面抓取用户注意力，随后引流橱窗售卖相关清洁剂。例如，有30个账号通过此类画面引流带货，相关账号均已被处置。

另有账号使用矩阵化的新号重复投稿AI生成的虚假老龄孕妇内容，伪装成用户分享，实为引流试管机构。例如，有143个账号批量发布AI生成的虚假 “好孕” 内容引流至站外试管机构，其中绝大多数为近两个月新注册账号，相关账号均已被处置。

还有账号利用AI生成模板化婚恋人设，吸引流量后转向其他变现方向。例如，有66个账号通过AI生成中老年男性形象搭配告白音频吸引中老年女性关注，相关账号均已被处置。

案例四：利用AI生成恐怖迷信与猎奇内容博取关注导流牟利

此类行为主要利用AI生成封建迷信、阴间恐怖等猎奇内容，或渲染迷信氛围骗取用户互动，随后通过售卖祭祀用品、引导付费测算或私域导流等方式牟利。此类内容不仅容易引发用户心理不适，还可能借机传播封建迷信、误导用户。

例如，有32个账号以 “道人”“师兄”“先生” 等古风道家昵称命名，投稿以民俗分享为幌子，批量发布AI生成的地府生活、亡魂归程、阴间打工、祭祀超度等迷信内容，通过渲染 "地府没钱寸步难行" 制造用户焦虑，引导购买玉皇钱祭祀用品；另有154个账号利用AI生成白狐、神兽、观音菩萨等形象，叠加音频送祝福、送财运，还通过 “天堂探亲”“冥界寻亲” 等方式，骗取评论区互动，起号后引流站外 “提供帮看逝去亲人现状” 等付费服务。平台已对相关违规账号进行处置。

案例五：借助AI工具低成本复制内容批量起号变现

此类行为不局限于特定内容题材，而是将AI工具当作起号捷径，一款玩法在平台火爆后，大量营销号便跟进通过AI模仿批量起号，并沉淀出付费教学的黑灰产生态，一些流量转化路径较短的赛道，成为此类违规行为的高发区。

例如，有304个账号批量发布AI治愈类内容，以情感共鸣、童年怀旧为情绪钩子吸引用户，涨粉后转向套取流量激励变现；另有732个账号打着 “科普” 名义，批量发布历史人物传、中药材故事、国学文化等模板化内容，为后续带货或知识付费做铺垫；有108个账号集中发布民间故事题材内容，不同账号情节套路高度雷同，批量复制爆款模板；此外，有296个账号利用AI批量生成人物背景、对话脚本、售卖商品高度相似的带货视频。相关账号均已被处置。

平台一直密切关注AI工具普及带来的新挑战，并通过扩增多场景的处置能力，迭代治理机制。针对恶意营销号滥用AI工具带来的挑战，平台持续升级AI内容识别、矩阵账号检测、黑产工具特征识别等技术手段。

近一个月，平台依据 “账号健康分规则”，累计处置违规短视频113.5万条，处置违规账号50.7万个，30.2万个账号通过参与平台规则学习考试等方式引导其规范创作。后续平台将持续加大对滥用AI工具实施恶意营销行为的打击力度，加强对黑产工具和教学组织的追溯打击，同时欢迎用户通过举报渠道提供违规线索，共同维护清朗网络环境。

平台也在此呼吁广大创作者，合理、正当使用AI工具进行创作，切勿使用违规做号工具批量生成低质同质化内容或从事恶意营销行为。抖音希望通过持续治理，与监管部门、行业各界及广大用户一道，引导更多创作者真诚创作，共同打造更加安全、优质和多元的内容生态。

来源:抖音黑板报 版权归原作者所有

小编:路小畅 审核:舒克 监制:晓文

关注 热点新闻