网易首页 > 网易号 > 正文 申请入驻

AI诈骗,开始失控了

0
分享至

来源:市场资讯

(来源:顶尖广告)

“姨姨妈妈,求求你别划走,我已经三天没好好吃饭了。”

最近,短视频平台上出现了一批叫“小海”的苦命男孩。他们对着镜头哭诉身世,一口一个“姨姨妈妈”,不少中老年女性看得心疼,纷纷下单购买豆浆粉、抹布、翡翠吊坠。

最让人揪心的,是一位79岁老人。她瞒着家人买了火车票,准备跨越几千公里,去山西运城看望自己惦记的“亲人小海”。直到被乘警拦下,她才知道,自己牵挂的孩子根本不存在。

据调查,这些“小海”大多是AI生成的数字人,所谓单亲身世、生活窘迫、缺少母爱,不过是可以随时复制的剧情。截至10月15日,某短视频平台“小海”相关话题播放量已达6亿次。制作这类数字人的教程,在网上几十元到几百元就能买到。

更值得关注的是,这门生意的利润空间。

记者调查发现,部分商品佣金高达52%至55%。有商品通过“小海”的带货链接售价99元,而同款商品在其他电商平台只需六七十元。运营者甚至可以利用AI生成视频、套用固定话术,再配合自动化工具批量发布,省去拍摄、出镜和剪辑等环节。

这套生意经并不复杂:先用苦情故事建立信任,再用亲昵称呼制造关系,最后把同情心引向购物车。

过去做带货,主播需要花时间建立人设、积累粉丝;如今,一张AI生成的脸、一套现成的剧本,就可能复制出一批新的“孩子”。

当情感被做成标准化内容,亲情也就成了一种可以计算转化率的商品。

当然,AI生成数字人本身没有问题。虚拟主播可以介绍商品,数字人也能降低内容制作成本。真正的问题在于,有人故意编造身世,把虚构的苦难包装成真实经历,再利用观众的情感信任促成交易。

这也是“小海”事件最值得警惕的地方:技术降低了造假的门槛,却没有降低识别骗局的难度。

尤其对于一些不熟悉AI技术的老年人来说,屏幕里的孩子每天唱歌、做饭、诉苦,评论区还有人喊着“儿子别哭”。反复出现的内容,很容易让人产生一种熟悉感。看得久了,虚构的人物也可能被当成真实的生活对象。

年轻人一眼能看出的破绽,不代表老人也能看出来。拿“怎么连AI都认不出来”去嘲笑他们,既解决不了问题,也忽略了运营者真正利用的东西:人对陪伴的需要,以及对弱者的善意。

更何况,这类账号的背后可能不止一个运营者。媒体报道过类似的AI数字人带货套路,人物从“王建国”换成“小海”,称呼变了,情感营销的逻辑却没有变。

这意味着,治理不能只盯着某个账号。

2025年9月1日起施行的《人工智能生成合成内容标识办法》,已经对AI生成内容的标识提出明确要求。但标注内容由AI生成,只是让用户知道内容的来源,并不意味着虚构身世、诱导交易的问题就自动解决了。

平台还需要识别批量生产的相似人设、虚假救助话术,以及背后的商品推广链条;对明显利用虚构苦难诱导消费的账号,不能只等用户举报后再处理。商家和运营者也不能因为人物是虚拟的,就认为自己可以不对宣传内容负责。

毕竟,AI可以生成一个孩子,却不应该成为制造虚假亲情、收割真实消费者的挡箭牌。

这门生意最讽刺的地方在于,运营者不需要真正关心老人,也不需要真正养育一个孩子。他们只需要知道,什么样的故事能让人心软,什么样的商品能带来更高佣金。

老人以为自己在帮助一个生活艰难的孩子,运营者看到的却可能只是一笔订单。

当79岁的老人真的买好火车票,准备去见屏幕里的“亲人”,这场交易就已经越过了普通带货的边界。

技术可以制造越来越逼真的虚拟人物,但信任不应该成为可以随意编造、反复变现的东西。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
比关税更危险的事来了!犹太资本贝莱德集团,在中国的 "深度渗透"

比关税更危险的事来了!犹太资本贝莱德集团,在中国的 "深度渗透"

疯狂的小历史
2026-11-18 11:13:34
好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

回京历史梦
2026-11-15 06:35:06
到底是不是宿命?广东55岁千万老板饭局挨个告别隔天离世,网友叹无常,网友直言这是“终末信号”

到底是不是宿命?广东55岁千万老板饭局挨个告别隔天离世,网友叹无常,网友直言这是“终末信号”

王老师你还好吗
2026-11-19 18:33:48
比亚迪方程豹钛9上市 首发折叠智舱 27.99万元起售!

比亚迪方程豹钛9上市 首发折叠智舱 27.99万元起售!

CNMO科技
2026-11-19 21:23:07
美论坛:孟买已领先上海30年,可为何中国人仍觉得印度落后?

美论坛:孟买已领先上海30年,可为何中国人仍觉得印度落后?

有牙的兔纸
2026-11-19 08:34:35
A·史密斯:詹姆斯、杜兰特、库里等人,阻止湖人队白人球员统治

A·史密斯:詹姆斯、杜兰特、库里等人,阻止湖人队白人球员统治

好火子
2026-11-19 23:03:56
失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

扶苏聊历史
2026-10-24 13:40:19
实话实说,广东队已成为一支3无球队!

实话实说,广东队已成为一支3无球队!

体育哲人
2026-11-19 07:35:28
台湾前参谋总长李喜明曾在台湾一档节目中说,别以为大陆不敢对台动武,他认为这种可能性是存在的

台湾前参谋总长李喜明曾在台湾一档节目中说,别以为大陆不敢对台动武,他认为这种可能性是存在的

人生录
2026-10-31 00:55:04
余文乐宣布离婚

余文乐宣布离婚

扬子晚报
2026-07-20 14:21:04
山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

诡谲怪谈
2025-03-25 17:25:18
国际油价大幅收跌,美油跌3.65%

国际油价大幅收跌,美油跌3.65%

每日经济新闻
2026-11-19 06:10:07
法国网民破防了:我们在自己的课本里错过了本国的英雄,却在中国课堂上听到了他们的名字,这才意识到自己生活在一个多么糟糕的国家

法国网民破防了:我们在自己的课本里错过了本国的英雄,却在中国课堂上听到了他们的名字,这才意识到自己生活在一个多么糟糕的国家

人生录
2026-11-10 00:05:10
俄军奋力防守仍没能守住,克里米亚大桥的惨状,全世界都看见了

俄军奋力防守仍没能守住,克里米亚大桥的惨状,全世界都看见了

古书奇谈
2026-11-18 15:15:03
美方在台湾问题上有了新说辞:若中国和平统一,美国不会反对

美方在台湾问题上有了新说辞:若中国和平统一,美国不会反对

吕醿极限手工
2026-08-27 14:18:48
离称霸,字节只差一个聊天软件了!

离称霸,字节只差一个聊天软件了!

城事堂
2026-11-17 14:09:44
收视率几乎为0,县城电视台为什么还没关?

收视率几乎为0,县城电视台为什么还没关?

罗sir财话
2026-11-15 12:56:18
近5战4负跌入附加赛!SGA场均33.6分独木难支 场下躺着1亿显无奈

近5战4负跌入附加赛!SGA场均33.6分独木难支 场下躺着1亿显无奈

颜小白的篮球梦
2026-11-19 20:38:31
北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

一刀故事
2025-05-14 13:32:29
央媒发文,高调官宣邓亚萍新身份,涉嫌贪腐被带走传闻早水落石出

央媒发文,高调官宣邓亚萍新身份,涉嫌贪腐被带走传闻早水落石出

叨唠
2026-11-19 00:04:18
2026-11-20 00:24:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5554113文章数 10039关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
时尚
游戏
健康
军事航空

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

PC Gamer试玩GTA6百小时:双主角出色但任务重复

医生眼里"很伤腰"的椅子,很多人天天坐

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版