网易首页 > 网易号 > 正文 申请入驻

AI诈骗,开始失控了

0
分享至


作者| 李东阳 来源 | 李东阳朋友圈

“姨姨妈妈,求求你别划走,我已经三天没好好吃饭了。”

最近,短视频平台上出现了一批叫“小海”的苦命男孩。他们对着镜头哭诉身世,一口一个“姨姨妈妈”,不少中老年女性看得心疼,纷纷下单购买豆浆粉、抹布、翡翠吊坠。

最让人揪心的,是一位79岁老人。她瞒着家人买了火车票,准备跨越几千公里,去山西运城看望自己惦记的“亲人小海”。直到被乘警拦下,她才知道,自己牵挂的孩子根本不存在。


据调查,这些“小海”大多是AI生成的数字人,所谓单亲身世、生活窘迫、缺少母爱,不过是可以随时复制的剧情。截至10月15日,某短视频平台“小海”相关话题播放量已达6亿次。制作这类数字人的教程,在网上几十元到几百元就能买到。

更值得关注的是,这门生意的利润空间。

记者调查发现,部分商品佣金高达52%至55%。有商品通过“小海”的带货链接售价99元,而同款商品在其他电商平台只需六七十元。运营者甚至可以利用AI生成视频、套用固定话术,再配合自动化工具批量发布,省去拍摄、出镜和剪辑等环节。

这套生意经并不复杂:先用苦情故事建立信任,再用亲昵称呼制造关系,最后把同情心引向购物车。

过去做带货,主播需要花时间建立人设、积累粉丝;如今,一张AI生成的脸、一套现成的剧本,就可能复制出一批新的“孩子”。

当情感被做成标准化内容,亲情也就成了一种可以计算转化率的商品。

当然,AI生成数字人本身没有问题。虚拟主播可以介绍商品,数字人也能降低内容制作成本。真正的问题在于,有人故意编造身世,把虚构的苦难包装成真实经历,再利用观众的情感信任促成交易。

这也是“小海”事件最值得警惕的地方:技术降低了造假的门槛,却没有降低识别骗局的难度。

尤其对于一些不熟悉AI技术的老年人来说,屏幕里的孩子每天唱歌、做饭、诉苦,评论区还有人喊着“儿子别哭”。反复出现的内容,很容易让人产生一种熟悉感。看得久了,虚构的人物也可能被当成真实的生活对象。

年轻人一眼能看出的破绽,不代表老人也能看出来。拿“怎么连AI都认不出来”去嘲笑他们,既解决不了问题,也忽略了运营者真正利用的东西:人对陪伴的需要,以及对弱者的善意。

更何况,这类账号的背后可能不止一个运营者。媒体报道过类似的AI数字人带货套路,人物从“王建国”换成“小海”,称呼变了,情感营销的逻辑却没有变。

这意味着,治理不能只盯着某个账号。

2025年9月1日起施行的《人工智能生成合成内容标识办法》,已经对AI生成内容的标识提出明确要求。但标注内容由AI生成,只是让用户知道内容的来源,并不意味着虚构身世、诱导交易的问题就自动解决了。

平台还需要识别批量生产的相似人设、虚假救助话术,以及背后的商品推广链条;对明显利用虚构苦难诱导消费的账号,不能只等用户举报后再处理。商家和运营者也不能因为人物是虚拟的,就认为自己可以不对宣传内容负责。

毕竟,AI可以生成一个孩子,却不应该成为制造虚假亲情、收割真实消费者的挡箭牌。

这门生意最讽刺的地方在于,运营者不需要真正关心老人,也不需要真正养育一个孩子。他们只需要知道,什么样的故事能让人心软,什么样的商品能带来更高佣金。

老人以为自己在帮助一个生活艰难的孩子,运营者看到的却可能只是一笔订单。

当79岁的老人真的买好火车票,准备去见屏幕里的“亲人”,这场交易就已经越过了普通带货的边界。

技术可以制造越来越逼真的虚拟人物,但信任不应该成为可以随意编造、反复变现的东西。

更多有趣话题 ,尽在 【顶尖广告】↓↓↓


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
都在救市,明天大A能得救吗?

都在救市,明天大A能得救吗?

海螺复盘
2026-11-22 21:37:38
不查不知道! 原来花1.3亿买310台坦克送员工的于东来, 私下竟这么壕

不查不知道! 原来花1.3亿买310台坦克送员工的于东来, 私下竟这么壕

生活新鲜市
2026-11-22 14:43:48
搞不好会烂尾!《持械入宋》的问题来了,十二季上线又延迟,到底被什么卡住了?

搞不好会烂尾!《持械入宋》的问题来了,十二季上线又延迟,到底被什么卡住了?

姜糖先生
2026-11-22 15:59:24
他才是国足最好归化,父母都是中国人,如今成国足名副其实"硬汉"

他才是国足最好归化,父母都是中国人,如今成国足名副其实"硬汉"

扒瓜
2026-11-22 12:15:13
中纪委重磅出手!严查这些歪风和腐败问题!有些人要瑟瑟发抖了!

中纪委重磅出手!严查这些歪风和腐败问题!有些人要瑟瑟发抖了!

职场资深秘书
2026-11-22 21:54:43
三安光电:副董事长兼总经理林科闯辞职

三安光电:副董事长兼总经理林科闯辞职

财联社
2026-11-22 16:08:03
郭碧婷曾自嘲生完二胎人废了,劝人慎生,向太想添孙不敢开口

郭碧婷曾自嘲生完二胎人废了,劝人慎生,向太想添孙不敢开口

扒虾侃娱
2026-11-22 22:43:19
《GTA6》双主角谁更受欢迎:结果出乎意料!

《GTA6》双主角谁更受欢迎:结果出乎意料!

游民星空
2026-11-22 23:28:23
普京终于摊牌:俄乌战争最大搅局者不是美国,而是这个跟俄罗斯斗了200年的老冤家

普京终于摊牌:俄乌战争最大搅局者不是美国,而是这个跟俄罗斯斗了200年的老冤家

z千年历史老号
2026-09-23 17:17:11
“老人味”祸根被揪出!医生提醒:50岁后要少碰,老了或也没味

“老人味”祸根被揪出!医生提醒:50岁后要少碰,老了或也没味

观星赏月
2026-11-15 16:17:46
亚洲杯夺冠概率出炉:日本33.2%领跑国足仅0.1% 卫冕冠军0.7%

亚洲杯夺冠概率出炉:日本33.2%领跑国足仅0.1% 卫冕冠军0.7%

新英体育
2026-11-22 10:14:48
天生要强的3生肖:年底开始运势翻盘,财运一路高歌,注定钱财大旺,看看有没有你​

天生要强的3生肖:年底开始运势翻盘,财运一路高歌,注定钱财大旺,看看有没有你​

人閒情事
2026-11-22 20:21:31
两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

蝴蝶花雨话教育
2026-10-29 00:05:14
蓉城候选教练再多一位大牌!川媒:海港冠军教练入围

蓉城候选教练再多一位大牌!川媒:海港冠军教练入围

建哥说体育
2026-11-22 11:40:01
泽连斯基明确表示,愿意为乌克兰牺牲生命,且无所畏惧

泽连斯基明确表示,愿意为乌克兰牺牲生命,且无所畏惧

山河路口
2026-11-20 20:36:06
被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

爆炸营养彭鑫蕊
2026-11-15 13:23:18
5-1!贵州足球时隔5年重返中甲 定南赣联2人染红+9年后再跌回中乙

5-1!贵州足球时隔5年重返中甲 定南赣联2人染红+9年后再跌回中乙

我爱英超
2026-11-22 17:59:52
全民化债的时代来了

全民化债的时代来了

职场资深秘书
2026-11-22 21:31:21
男子自驾游至海南遇美女搭车,同行三天后,他才知道自己逃过死劫

男子自驾游至海南遇美女搭车,同行三天后,他才知道自己逃过死劫

林林故事揭秘
2025-04-10 14:49:38
紧身短裤,是跑步最尴尬的装备

紧身短裤,是跑步最尴尬的装备

跑者排球视角
2026-11-20 06:59:54
2026-11-22 23:52:49
广告创意 incentive-icons
广告创意
广告圈话题之王,年轻人哔哔舞台
1794文章数 84关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
教育
时尚
亲子
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版