“贴心弟弟”温情戏　“苦情短剧”卖药计

AI诈骗来袭。近日，AI虚拟人物代言的保健品广告充斥于各短视频平台。不乏有部分情感主播针对老年人消费群体，打造人设，编撰各类家长里短、跌宕起伏的剧情，吸引中老年人的关注，并借机兜售商品。

南都健闻记者调查发现，部分虚拟主播在短视频中故意夸大产品功效，甚至不同主播背后采用了同一个虚拟人的音容相貌。尽管仔细辨别可发现并非真人出镜，但仍有不少老人对此捧场，表示要购买，用完了还会回购。

编撰情感短剧卖药 普通产品被宣称可治疗失眠

“我女儿怀孕已经7个多月，知道自己马上要离开人世，她的公公却以100万元的价格偷偷卖掉了她的婚房和所有之前的首饰。女儿身体一天比一天差，央求医生保住小孩。正当这个时候，公公回来了，用颤抖的声音跪求医生保大人……”上述带货主播谈道，“虽然手术成功了，但女儿成宿成宿睡不着，终于找到一位老先生，对方给了一个方子，经过几天后，女儿终于能安然入睡。”

南都健闻记者注意到，上述主播的手势、讲话的表情与虚拟人无异，但播放页面并未标注为AI制作的画面。更为明显的是，画中多处的女儿明显并非同一人，剧情在4分钟内跌宕起伏，十分离谱。

主播在视频末谈道，“这是一种用古法配置的天然香膏，坚持每天睡前抹在耳朵后，轻轻按摩，几天后，你一觉就可以睡到大天亮。”

同一款睡眠香膏还有另外一个剧本，“大家快来看看吧，难道天底下越孝顺越有错吗?我伺候了我妈17年，但我妈更疼两个弟弟。我妈出院后，我既要照顾我妈，也要给两个弟弟做饭。弟弟、弟媳都躺沙发玩手机……”在经过一番迂回曲折的故事后，主播延伸至睡眠香膏，“有一位95岁的老人告诉我这一方子，每晚都可以睡八九个小时。你只需要维生素B和这个香膏，一定能一觉睡到大天亮。”

南都健闻记者注意到，通过视频直播平台的橱窗可搜索到这一商品，产品名称为睡眠香膏，并且配有香港大药房的logo。产品执行标准为Q/NAXT　214-2023，生产企业为南阳市艾兴堂制品有限公司，生产地址为河南省南阳市卧龙区七里园乡杜诗路艾草产业园1号。从产品外包装可见，产品名称为睡眠香膏。主要原料为薰衣草、檀香、玫瑰花、栀子花、茉莉花。

记者就产品的效果咨询客服人员，其表示，睡眠不好，坚持使用就可见效。当问及需要坚持多久，对方解释为5盒以上。

不过，南都健闻记者进一步查询发现，这一产品存在不少蹊跷之处。首先，Q/NHX是企业标准的一个代号，产品并非药品或是保健食品，不应对外宣传有治疗失眠的功效。据企业标准信息公开服务平台信息，睡眠香膏所属类别为家庭或是个人辅助服务、个人护理服务。

其次，工商登记的公司名称与产品外包装的公司名称略有出入。天眼查显示，公司名称为南阳市艾兴堂艾草制品有限公司，曾用名为南阳市艾兴堂商贸有限公司，成立于2014年，是一家从事零售业为主的企业。2022年至2023年工商年报参保人数为5人。

AI主播“撞脸” 关怀话语说完后便开始带货

网络渠道“眼见”不一定为实。账号“洋洋弟弟说生活”说罢一番令人心花怒放的话后，奉上关怀的问候。“最近天气干燥，弟弟还是担心您，所以特意为您带来了这款黄芪霜。添加了优质黄芪精华，搭配芍药精粹，温和保湿，滋润肌肤。有需要的姐姐，可以进入我的橱窗，把它带回家吧。”

南都健闻记者注意到，上述视频点赞量达到近4000，有不少老人在此评论，“弟弟，你说的话太让我感动了，我没有你说的那么好。谢谢你的夸奖。”“弟弟，我早就买了5盒了，就先不买了。”尽管不少老人将主播温情的话语听入了心，但仔细观察，上述视频内容并非真人出镜，而是AI技术生成的虚拟数字人。

更为令人哑然失笑的是，这类夸奖姐姐的虚拟主播逐渐增多，其中“王建国弟弟”和“李明哥”账号的人物形象一模一样。在“李明哥”账号中，男子身着笔挺的西装，扎着领带，站在虚构的山水图前，张嘴就是“姐，咱俩能在茫茫人海碰上，我觉得是上辈子攒下的福气。”

在其中一则视频中，“李明哥”在上述关怀的话语说完后，便开口称，“姐姐，你之前不是和我说过晚上失眠吗?我一直四处打听，还真从一位老先生那儿获得了方子。您点击我的小黄车就可以把它带回家了。”不少老人留言感谢，更有老人直言，“前几天买了，用完了会回购。”

南都健闻记者注意到，上述产品为茯苓茶，产品销售量为10.8w，评价高达5000余条。其商品橱窗里的货物，包括眼霜、泡脚中药包、驼奶、老北京布鞋等，有的品类销售量甚至达到数百万。

　　诈骗花样百出 “拟声”“换脸” 诱导亲友转账汇款

当前，AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务，也给网络诈骗带来可乘之机。国家金融监督管理总局曾对此发布关于防范养老诈骗的风险提示。据介绍，利用AI新型技术实施诈骗主要有“拟声”“换脸”两种手段，即通过模拟他人声音或形象骗取信任，进而诈骗钱财。不法分子通常先以“网店客服”“营销推广”“招聘兼职”“婚恋交友”等为借口，通过微信、QQ、电话等方式联系消费者，采集发音、语句或面部信息。再利用“拟声”“换脸”等技术合成消费者虚假音频或视频、图像，以借钱、投资、紧急救助等借口诱导其亲友转账汇款，或提供银行账户密码等敏感信息，随后立即转移资金。

此类诈骗手段迷惑性、隐蔽性较强，诈骗金额较高，为保护广大金融消费者合法权益，国家金融监督管理总局提示:

一、网络渠道“眼见”不一定为实。“拟声”“换脸”等合成技术的一大特点即“以假乱真”，不法分子可利用此类技术轻易伪装成他人，并通过快速筛选目标人群、定制化诈骗脚本，精准实施诈骗。因此，在涉及资金往来时，一个“声音很熟的电话”、一段“貌似熟人的视频”都可能是不法分子的诈骗套路，消费者应提高警惕。

二、转账汇款务必核验对方身份。面对自称“熟人”“领导”等通过社交软件、电话等以各种理由诱导汇款，务必核验对方身份。如可在沟通过程中提问仅双方知晓的问题，也可利用其他通讯方式或见面核实，或向对方的朋友、家人验明身份和情况。在无法确认对方身份时，应尽量避免转账操作。

三、保护好照片、声音等个人信息。消费者应提高个人信息保护意识，不随意下载陌生软件、注册陌生平台或添加陌生好友，对个人社交账户的安全状况保持警惕。尽量避免在互联网过多暴露个人照片、声音、视频等信息，不贪图方便把身份证、银行卡照片等直接存放在手机内。如不慎被骗或遇可疑情形，应注意保存证据并立即向当地公安机关报案。

南都调研 总第579期

出品:南都教育健康事业部