北京
澎湃新闻记者 陈悦
一个十几岁的单亲少年，没有妈妈，在校园里被欺负，跟着爸爸在网上辛苦卖货维持生活，一口一句“姨姨妈妈，小海需要你”“小海想把好吃的给姨姨妈妈们”……年轻人一眼看穿的AI数字人“小海”，正在收割老年人，掏空他们的钱包。甚至有79岁的老人要独自乘火车去山西，看望这个根本不存在的孩子。
近期，有媒体曝光一批由AI批量生成的数字人“苦命男孩小海”。他们在短视频平台用同一套苦情剧本筛选富有同情心却缺乏防备的老年群体，转身在带货视频里推荐远高于市场价的商品。相关账号包括“海海分享生活”“懂事的小海”“小海小海小海”“小海努力生活”“海海会努力”等，IP不同，却都有数万名粉丝。
吃馒头卖惨的数字人小海。网络平台截图
浏览这些视频，骗术设计并不复杂：先用人设建立拟亲缘关系，让老人在被需要中获得价值感；再用吃馒头、没钱吃饭等方式激活心疼与怜悯；最后以“为姨姨妈妈着想”的口吻完成带货转化。每一步都踩在老年人渴望陪伴、害怕被遗忘的心理软肋上。
小海卖惨的操作门槛低得惊人，几块钱就能买到全套AI数字人生成教程，换一张脸、换一个声音，就能批量复制出成百上千个小海。这已经是一条成熟的情感收割流水线，有账号运营者表示，选对中老年赛道，一天赚两三千元算是少的。
然而，比骗术本身更值得追问的是：这些账号为什么能成批量地出现在平台上，甚至被曝光后仍没有彻底清理？
平台并非没有动作。多数小海视频左下角标注了“内容由AI生成”，部分账号简介还写着“AI数字人，大家理性看待”。从形式上看，平台似乎履行了告知义务。但对一些不识字、不了解AI的老人而言，怎么可能注意到这一行小字，又怎么能理解AI生成对“这个孩子是否存在”意味着什么？
标识的目的本是提醒，而当提醒的对象未必能马上接收和理解时，这行小字就只剩下了平台用来切割责任的符号意义。标注“AI生成”改变不了虚假人设和欺诈内容的本质，反而可能变成虚假内容合规化的通行证。
更关键的问题在于，平台把治理重心放在了事后。曝光之后，部分AI小海账号改名、删视频、被禁止发布作品，看上去雷厉风行。可这种“打地鼠式”处置的被动性显而易见：封掉一个小海，批量生成的下一个小海立刻补位，因为生产成本太低，而平台的事后封禁远远赶不上账号复制的速度。在短视频平台可以看到，媒体曝光之后，“海海会努力”等账号已被封，但还有“海海要努力”“努力的海海”等账号继续立人设，只要前端审核不充分，后端处置就永远在追着骗术跑。
平台手握算法、数据和审核能力，完全有能力把责任前置。识别一个AI小海并不需要多么复杂的技术：同一套少年形象反复出现，话术高度同质，评论区充斥着老年用户“心疼”“下单”的留言，带货指向明显高于市场价的商品——这些信号足以让一个高风险账号在发布阶段就被拦截，而不是等到媒体曝光、老人独自出行要去看望之后才被动响应。
问题的症结不在于能不能识别，而在于平台是否愿意把审核从“事后封号”前移到“事前过滤”，是否愿意把老年用户当作需要保护的群体，而不是流量报表上的一个数字。
骗术打的是感情牌，平台就不能只打合规牌。一行“AI生成”的标识，挡不住一声“姨姨妈妈”的呼唤；一次事后的封号，也追不上一条批量复制账号的生产线。审核责任必须前置，在高风险内容触达老年人之前就把它拦下来，而不是等骗局把感情和钱包都收割完毕之后，再轻描淡写地补一个“已处置”。
本期编辑 徐滁
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
