北京
据央视新闻报道，近期社会上出现专门针对中老年女性的AI相亲骗局，不法分子使用AI生成所谓相亲对象，以此诈骗钱财。近期，四川成都警方便打掉了一个“AI相亲”诈骗团伙，先后将王某等28名犯罪嫌疑人抓捕归案。
IT之家参考通报获悉，报案人卞女士在网络视频平台刷到一家婚介公司，在表明自己有相亲意愿后，一个账号昵称为“匹配中心王主任”的人给她发来了“李哥”的简介，上面详细介绍了“李哥”的个人情况并附有一张照片。卞女士先后缴纳了2000元相亲服务费，但“李哥”怎么都联系不上，屏幕那头的“王主任”也开始不回消息。
民警通过调查发现，与卞女士签约的公司并不存在，但在实地核查中发现了一家相似度非常高的公司。这家公司主营婚介业务，但现场并没有相亲人员也没有所谓的“红娘”，只有销售岗、剪辑岗和主播岗。在这些剪辑人员的电脑上，民警看到了报警人提供的婚恋男嘉宾的资料一模一样的AI形象。
种种异常让民警意识到，这家公司并不是普通的婚介服务公司。随后，民警通过现场员工联系上了公司老板王某。在电话中，王某表示愿意退钱，但始终回避合同内容的问题。虽然卞女士的退费诉求解决了，但办案民警并未就此止步。通过连日蹲守老板王某的开播账号，警方发现所谓的“李哥”形象经常出现在画面里。
警方掌握确凿证据后，将王某等28名犯罪嫌疑人抓捕归案。抓捕现场，这伙人仍在使用AI男性形象开播，并制作了许多话术以及剧本。从AI形象的人设打造到台词互动，直播中的每个环节都经过精心设计。
为了加深网友的信任，网络主播还会借助变声器冒充“有相亲需求的优质男性”进行直播连线。据调查，这家所谓的婚介公司根本不会提供真正的相亲服务。在被害人缴纳了服务费后，和被害人聊天的也不是那些所谓的优质男性，而是由公司里的售后人员继续唱“双簧戏”。
在不到一年的时间里，这个团伙的作案涉案金额高达100余万元，约有50余名群众遭受财产损失。目前，王某等28名犯罪嫌疑人已被公安机关依法采取刑事强制措施。
央视新闻表示，此类利用AI虚构人设的诈骗手法危害显而易见，更令人担忧的是，这类骗局至今仍在短视频平台上存在。平台应当加强检测和预警，建立风险分级处置机制。当检测发现疑似AI生成且带有婚恋交友引流特征的直播间与短视频，并且有诱导用户跳转站外、索要服务费等涉诈苗头时，平台不应仅停留在内容打标层面，还应分阶梯采取制约，并按规定把涉诈线索移送公安、网信等主管部门。
专家建议，可以通过更新技术手段、加强跨平台的协同治理，找到解决问题的途径。平台不仅要严格落实AI生成内容标识义务，还应完善AI内容的识别风控系统，加强对高风险涉诈内容的监测预警和联动处置，从算法上阻断推送，从源头上压缩虚假信息的生存空间。对于普通用户来说，需要筑牢自身的风险意识，面对疑似AI生成的内容，同样可以使用技术检测鉴别真伪。
本文源自：IT之家
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
