今年五月,乌鲁木齐铁路公安的乘警在车厢里发现一位79岁的老人。她不识字,说不清目的地,只知道自己要去山西运城“走亲戚”,看望一个天天在手机里喊她“姨妈”的苦命孩子。乘警告诉她,直播间里那个人是假的。老人将信将疑地下了车。
![]()
这个“小海”不存在。脸是AI生成的,身世是编的,连“躲在教室吃馒头”的镜头也是流水线产物。但评论区里那些“儿子别哭”“妈妈订四单”的留言,是真的。
这套骗局的生产者,可能根本不指望年轻人上当。他们要的恰恰是那些会把“内容由AI生成”那行小字,理解成“因为没法实拍,所以用AI替代描述”的人。
北京航空航天大学法学院副教授赵精武在分析中提到,有的老年用户会这样理解AI标识,标注非但没有起到警示作用,反而像一层技术背书,让虚构的故事显得“有来头”。
年轻人一眼看穿的粗糙合成,在另一套认知框架里,成了“这孩子不容易,连视频都只能这样做”。
链条比想象中便宜。
新京报记者调查发现,制作“小海”这类数字人的教程在社交平台上明码标价,几十元到几百元不等。
运营者阿牛的说法是,“选对中老年赛道,一天赚两三千算是少的”,可以做到“不拍摄,不露脸,不剪辑”。
记者照着教程操作,十几分钟就生成了一个“小海”视频,发布一小时后开始收获点赞和“姨姨妈妈”粉丝。流量最终导向商品橱窗,部分商品的佣金高达55%。商品价格往往高于其他电商平台,卖得越多,抽成越高。
一个账号被封,换一张脸、改一个名字,同一套话术模板可以继续跑。
一年前的主角是“AI王建国”,对着中老年女性喊“姐姐”;平台整治之后,儿子“小海”接过剧本,称呼换成了“姨姨妈妈”,收割的是同一批人。
这不是某一个骗子的道德问题,是一条已经完成迭代的供给链:上游卖教程,中游批量起号,下游高佣金变现,平台治理跟在后面封号,封号的速度赶不上换脸的速度。
但把板子全部打在平台审核上,也会漏掉更麻烦的部分。
北京大学教授马亮在央视报道中的判断是,表面看是老年人的数字素养差距,深层根源在于“情感空巢”。
一个退休后价值感在流失的人,在屏幕里被一个清秀少年一口一个“姨姨妈妈”叫着,被需要的感觉是即时兑现的。下单买一包阿胶,买的不是阿胶,是“我还能帮到一个孩子”的位置感。这种需求不会因为封掉几个“小海”就消失,只会等待下一个面孔。
有意思的是,一部分年轻人已经在用同样的工具做反向操作。他们生成穿囚服、叼着烟、大把数钱的“恶小海”,让AI少年亲口说“我是骗子”,试图用荒诞对冲荒诞。
一个19岁的制作者说,直接告诉长辈“这是AI”效果不好,因为她们已经全然相信那个孩子存在。
用魔法打败魔法,是年轻人在现有治理节奏之外的自发补位,也侧面说明一件事:当制度和平台的反应速度跟不上产业链的迭代速度时,最有效的“反诈工具”往往不是一句提醒,而是另一个人设更强烈的情绪冲击。
如果家里有长辈正在给某个“小海”留言,与其花一个小时教她辨认AI水印,不如先做一件更具体的事:把她手机里那个账号的评论区打开,念几条其他“姨姨妈妈”的留言给她听。
让她看见,那个喊她“妈妈”的孩子,对几百个人喊的是同一句话。然后,在那个空出来的位置上,放一个真实的、会回她消息的人。
你上一次认真回她发来的语音,是什么时候?#AI小海 #AI网红 #AI骗局#AI产业
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.