北京
镜头前哭诉身世、向观众亲切喊话的“苦命男孩”，背后竟是批量生成的AI数字人。
针对近期引发关注的“小海”卖惨带货现象，抖音作出回应：经平台核查，相关人物系AI合成数字人，涉及的账号及内容已被依规处置。
昨天，抖音黑板报发布短视频虚假人设专项整治第二期公告，将利用“小海”AI形象进行卖惨带货的矩阵账号列为典型案例。
公告显示，10月1日至22日，平台累计处置违规账号2万余个，清理违规视频4.7万余条。需要注意的是，这些数字为此次专项行动的整体治理数据，并非仅针对“小海”相关账号。
此前有报道称，一批以“小海”为名的AI数字人在短视频平台出现，通过讲述单亲、生活窘迫等虚构经历吸引关注，一些中老年观众因同情而下单购买商品，且这些账号销售的商品价格往往高于其他电商平台。
更值得警惕的是，即便有网友发布视频揭露相关人物为AI数字人，仍有老人未能识别虚构身份，甚至将提醒当成故事的新情节。当虚构身世与商品销售相结合，观众付出的不仅是注意力，还有建立在错误认知之上的信任与消费。
抖音此次整治也并不局限于AI卖惨带货。抖音表示，专项行动重点治理假扮弱势群体骗取关注、虚构职业资质发布专业内容、利用AI仿冒人物虚假营销、鼓吹奢靡迷信引流牟利，以及编造冲突剧情博取流量等五类行为。
通报还披露了编造朋友因事故离世、雇人扮演流浪汉并摆拍救助、虚构老人带病独自抚养孙女等案例，相关账号及内容均已被依规处置。
抖音表示，将持续治理虚假人设类违法违规内容，畅通用户举报渠道，并提醒网友警惕以博眼球、蹭流量、谋私利为目的的虚假内容。
从摆拍救助到AI批量卖惨，此次通报指向同一个问题：不能把虚构的苦难包装成真实经历，将公众的善意变成牟利工具。
对此，你怎么看？欢迎评论区一起聊聊。
PS：
见实已经官宣，将继续聚焦AI、私域与全域增长的新趋势、新案例和新机会。大会目前正在报名和招商，欢迎大家下方报名与咨询。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
