网易首页 > 网易号 > 正文 申请入驻

2025年度AI乱象调查丨AI拟声制造“熟人骗局”,亲友“来电”变“来骗”

0
分享至

开栏语:

AI技术正以前所未有的速度重塑世界,也在现实中投射出重重乱象。几天前,“slop”(AI批量产出的劣质内容)被评为年度热词。过去这一年,我们见证了AI“一键脱衣”打开潘多拉,捏个“假偶像”直播捞金;赛博算命、智商税学习机屡屡上新,学术圈和诈骗团伙也都在狂刷AI副本……上游新闻特别推出“年度AI乱象调查”专题,盘点六大AI“翻车”现场,带你看透乱象背后的深层逻辑和监管难点,探讨AI乱象综合整治之道。

技术无善恶,道德有底线。这场AI安全保卫战,没有局外人和旁观者。

“奶奶,救救我!”近日,听到电话那头“孙子”的声音,四川雅安的一位婆婆慌了神。如果不是在家门口被辖区民警及时拦下,老人就要将4万元现金交给不法分子。

12月17日,上游新闻(baoliaosy@163.com)记者梳理多地警情通报发现,随着AI语音合成技术不断成熟,一种以“模拟熟人声音”为特征的新型诈骗手法呈现多发态势。对此,多地警方通过官方平台密集发出风险提示:警惕AI合成声音诈骗,切勿轻信来电中的“熟人”求助,牢牢守好自己的“钱袋子”。

“孙子”来电,竟是精心布置的陷阱

“那声音,和我孙子一模一样。”

回忆起事发经过,四川雅安的一位婆婆仍心有余悸。

12月17日,上游新闻记者从四川公安公众号12月15日发布的防范警示中看到,近日雅安市公安局雨城区分局西城派出所接到居民报警,称其父母可能正遭遇电信诈骗,并准备交付大额现金。民警迅速赶往现场,在报警人父母家楼下将正欲出门的老人拦下。

警方通稿披露,事发当天下午,当事老人接到一个以“00”开头的陌生来电。电话那头的人自称是她在重庆上大学的孙子,并带着哭腔称,自己前一晚与同学外出喝酒后,不慎卷入“治安事件”,已被警方控制,希望老人千万不要告诉自己父母。随后,电话被转给一名自称“黄所长”的男子。对方语气严厉,称只要缴纳4万元“罚款”,即可免于处罚、不留案底。老人救孙心切,提出微信转账,却被告知“账户受限”,对方坚持要求以现金方式交付。诈骗分子还进一步“安排”称,已联系好警方工作人员来取钱,并详细询问老人的穿着和等候位置。就在老人携带4万元现金外出时,被及时赶到的民警成功拦下。民警当场联系老人远在重庆的孙子核实情况,确认其平安无事,这起骗局才被彻底戳穿。

民警将正欲出门向诈骗人员交付现金的老人拦下。四川公安公众号视频截图

上游新闻记者注意到,上述案例并非个案。四川省泸州市江阳区警方通报,辖区居民李大爷近日接到座机来电,电话那头同样是“孙子”的声音,称在餐馆撞伤服务员,对方生命垂危,急需10万元医药费。在“孙子”一再催促下,李大爷将准备好的4万元现金当面交给了前来取钱的骗子。对此,警方指出,这正是典型的利用AI技术合成亲属声音,骗取信任实施诈骗的手法。

一句话就够,AI“克隆”亲友声音

上游新闻记者梳理多地警方发布的反诈案例发现,AI拟声诈骗背后已形成一条较为清晰、可复制的作案路径。

据新疆巴州反电信网络诈骗中心、天津市公安局反诈中心等发布的案例,诈骗分子往往遵循“潜伏窃声—伪造合成—建立信任—精准诈骗”的流程实施作案。前期,不法分子可能通过骚扰电话、社交平台语音等方式与被拟声对象短暂接触,哪怕只是“你找谁”“你是谁”“没有没有”等简单回应,也可能被偷录为语音样本。

12月15日央视新闻报道,不法分子使用的AI拟声能高度还原被拟声对象音色,并与诈骗对象实现实时对话交互 。央视新闻截图

在获取足够声音信息后,诈骗分子利用AI语音模型,对语调、语速、情绪进行模拟,短时间内就能生成与被拟声对象高度相似的语音,从而迷惑其亲友。

12月3日,广西金融消费权益保护联合会在其公众号发布的《“以案说险”:AI“克隆”亲友声 骗局莫当真》一文指出,诈骗分子往往将老年人作为诈骗目标,看中的正是其对亲属声音的高度信任以及在突发情境下的情绪反应。另外,AI拟声诈骗通常不会单独出现,而是与冒充公职人员、制造法律风险、营造生命垂危情境等手段叠加使用,不断增强骗局的“真实感”。

应对AI拟声诈骗提醒。广西金融消费权益保护联合会公众号截图

在四川雅安、泸州警方披露的案件中,诈骗分子在成功冒充“孙子”取得初步信任后,要么引入所谓“公职人员”角色,要么营造拿钱救命等紧迫氛围,以“马上处理”“生命垂危”为由切断受害人核实渠道,使其在情绪主导下失去判断能力。

别只信“声音”,主动核实才是“反诈密码”

面对AI拟声技术被不法分子用于电信诈骗,如何判断对方身份,成为公众关心的焦点。

上游新闻记者梳理警方发布的风险提示发现,多地公安机关已明确警示:凡是以“熟人”名义提出“紧急借钱”“要求保密”“只收现金”等请求的情况,均应高度警惕。

警方提醒,首先,接到涉及亲友借款、出事等“紧急来电”时,切勿仅凭声音轻信对方,应在挂断电话后,通过常用号码回拨,或通过其他可靠渠道联系本人或其直系亲属核实,避免在通话中自行判断。其次,凡是反复强调“不要告诉别人”“必须现金交付”“生命垂危急需用钱”的,一律视为诈骗,应主动向亲友或银行工作人员求助。第三,遇到自称公职人员要求在线转账、缴纳罚款或线下交付现金的情况,应第一时间挂断电话,通过公开渠道联系当地公安机关核实,切勿按对方指引操作。

此外,警方特别提醒,家庭成员应加强对老年人的日常提醒和陪伴,帮助其提升识骗、防骗意识,共同筑牢防范AI诈骗的“安全防线”。

上游新闻记者 冯盛雍 综合泸州融媒、四川公安、新疆巴州反电信网络诈骗中心、天津市公安局反诈中心、广西金融消费权益保护联合会公众号

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

韩小娱
2026-11-22 13:34:14
春节返乡潮要变天?专家预言:2027年前后打工潮降温,原因很现实

春节返乡潮要变天?专家预言:2027年前后打工潮降温,原因很现实

江启
2026-11-21 12:47:21
为何说新西兰没几个中国人待得住?网友:待了几个月,都快疯了

为何说新西兰没几个中国人待得住?网友:待了几个月,都快疯了

乌克兰小静
2026-11-20 09:02:01
老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

起点财经
2026-11-22 13:10:41
精准预言黄金大跌的人,又发声了

精准预言黄金大跌的人,又发声了

新浪财经
2026-11-21 19:16:22
比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

疯狂小菠萝
2026-11-22 11:01:59
云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

快科技
2026-11-22 10:00:08
前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

姜大叔侃球
2026-11-21 11:25:05
余文乐凌晨发文告别舞台!

余文乐凌晨发文告别舞台!

In风尚
2026-11-21 12:02:42
年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

可读
2026-11-21 00:13:14
不理解,为什么馒头是小麦做的,可山东河南等地到了80后才吃上?

不理解,为什么馒头是小麦做的,可山东河南等地到了80后才吃上?

抽象派大师
2026-11-22 02:00:30
西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

凡人学电脑
2026-11-20 23:39:35
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
全面禁止中方外交官入境,阻挠中国统一,这国比美国更嚣张?

全面禁止中方外交官入境,阻挠中国统一,这国比美国更嚣张?

古事寻踪记
2026-11-22 07:21:52
网易号平台每日辟谣公告(十一月二十一日)

网易号平台每日辟谣公告(十一月二十一日)

网易号官方平台
2026-11-21 18:21:29
高市重申对台立场

高市重申对台立场

陆弃
2026-11-22 10:21:14
18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

一丝不苟的法律人
2026-11-22 13:20:47
这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

财经要参
2026-11-15 12:00:05
骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

爱意随风起呀
2026-11-22 15:40:19
9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

风过乡
2026-11-22 08:12:54
2026-11-22 16:48:49
上游新闻 incentive-icons
上游新闻
上游新闻官方账号
272189文章数 585764关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
亲子
本地
艺术
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

艺术要闻

世界十大著名宫殿盘点:中国独占两席

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版