又是一年开学季,大学生们衔接学业、办理入学手续、寻觅实习兼职等事务的处理往往集中在这一时期,但由于社会阅历尚浅,经验有限,极易踩中诈骗分子“精心”布好的陷阱。因为随着AI等新兴技术的进步,不法分子的诈骗手段也在升级,让人难辨真伪。
01
“你有一笔助学金待领取”
来自江西的白同学(化名)不久前收到了一封以校办宣传部为名义的邮件,内容是学院资助的名单公示,要求收到通知的同学在审核时间期限内完成身份认证,并附上了认证渠道的网址链接。
白同学点开链接跳转至腾讯文档的登录界面,按照要求填写完信息并提交后,界面弹出“认证成功”的提示,并声称教育部门将在1-3个工作日通过邮件发送详情。但他随即收到了平台的防盗提示,显示自己的QQ账号被异地恶意登录。
来自山西的王同学(化名)同样遭遇了这一骗局,导致自己的账号被盗。其实这是十分常见的诈骗套路:冒充学校的名义发布助学金、奖学金或教育补贴等的认证提示,要求学生提供银行卡号、密码、短信验证码等,收集个人信息后盗取相关账号,不仅利用用户本人的支付密码盗刷账户,还会再用被盗账号骗取通讯录联系人的钱财。
“复盘时才反应过来,这是如此明显的圈套。”王同学坦言,“但在收到邮件的当时,一想到自己确实申请过,发件人又是学校官方部门,注意力就放在怎么填写信息上了,没想到去质疑。”
这正是骗术的“精妙”之处,由于发件人是学校官方部门,还涉及教育系统认证这种权威渠道,不少同学并不会像在网购、拼单、添加陌生人等场景中那样高度警惕,才会轻易上当。
也有收到类似邮件的网友反映,自己已经毕业几年根本不可能申请学校助学金,发件人还特意在抄送列表勾选了很多账号,营造抄送多人的假象,让邮件看起来更可信。邮件中的时间截止日期也设置得很紧迫,一般当天收到第二天就要求提交,这是为了不给受骗人留下思考时间,营造紧迫感诱导冲动操作。
02
被包装的“高薪兼职”
实习兼职同样是导致大学生上当受骗的重灾区,骗子通常会潜伏在各类新生群、同乡群、社团群中,让学生误以为是自己的校友从而放松警惕,由此将受骗者引入他们“量身定制”的招聘渠道。由于利用AI分析了海量求职信息和兼职平台数据,他们批量生成的岗位和招聘文案往往能精准抓住学生痛点。
来自广东的唐同学(化名)就险些踩中陷阱,她收到一封以公司名义发出的招聘邮件,其中介绍了公司情况和面试要求,一整套流程规范严谨,提供的公司网页和HR工作证等信息也很正规,让人看不出破绽,殊不知这些只是不法分子利用AI套模板包装出来的假象。
邮件中告知她面试必须经过为期两天的测评,唐同学求职心切,在对方的指引下一一照做,于是点击了不明链接,下载一个名为“实训助手”的软件。随后,唐同学在群内的腾讯文档回答了测试问题,但内容相当简单,并未考验岗位技能。
“因为全程是一对一沟通,群里不允许任何人发言,所以第一天测评后我还没有意识到被骗。”唐同学回忆,直到对方以支付测评底薪的名义索要收款码并让她先垫付数据分析的费用(承诺随后返款提现)时,心存怀疑的她才直接质问是否是刷单。当她借口要做会议纪要以便取证时,对方意识到唐同学已经反应过来,立马将她踢出群。
另外,当骗子通过各种手段获取账号和信息后,还会通过AI变声或AI换脸技术冒充学生本人对通讯录中的亲朋好友实施诈骗,面部信息和声纹信息往往是在线上面试的视频环节被窃取的。随着AI应用日趋成熟,如今的换脸换声已很难仅凭肉眼发现端倪。
近日,央视新闻就曝光了有网友利用AI变声仿冒全红婵、王楚钦、孙颖莎等奥运冠军为土特产带货的问题,伪造的视频点赞量高达上万,从评论区留言中能够发现,许多下单购买链接商品的粉丝真的误以为视频中为运动员本人。
03
AI诈骗搅动开学季
无论是借身份认证盗取账号、AI变声、AI换脸,还是伪造高薪兼职信息,本质都是为了收集用户的真实信息,除了盗刷本人钱财,还试图通过呈现“是本人在操作”的效果,博取受骗人亲朋好友的信任。
想要识破这一陷阱,最直接也最有效的方式是通过第三方信息来验证真伪。
例如,父母收到涉及钱财的消息后,可以联系辅导员和孩子的相熟好友交叉验证来确定真实行踪;学生收到校方邮件后,登录教育部和学校官网查询助学金、奖学金等申请政策和流程,还可以线下找到辅导员面对面咨询,或拨打学校教务处或学院相关办公室的官方电话确认信息。
实习求职时,先在企查查这类网站上查询公司的相关认证和注册信息,并认准公司官网投递简历,或是从平台认证过的官方蓝V账号处获取招聘渠道,注意比对企业认证信息和官网网址。
AI技术的发展让诈骗手段愈发隐蔽,难辨真假。唯有冷静多思,摸清新“套路”做到知己知彼,并提高警惕性,养成用第三方信息和官方渠道辩明真伪的习惯,才能筑牢新学期的安全防线。
04
“数字学生”的集体欺诈
当看似传统的骗术有了AI的技术加持,诈骗不再是广撒网式的撞大运,而是升级成可怕的“精准狙击”,诈骗效率和迷惑性都得到了大幅提升。但这只是AI欺诈威胁的冰山一角,更危险的趋势正在蔓延。犯罪分子正在调转炮口,用算法武器瞄准学校乃至政府的关键堡垒。
前述案例本质上仍然是在利用信息差,而针对政府机构的骗局,AI的比重显著增加。
2022年6月,美国教育部曾经对某个欺诈组织进行了调查。据了解,该组织在过去四年中使用了至少57个AI虚拟人,从美国联邦教育系统骗取了超过110万美元的援助。而该组织所参与的另一个欺诈案,很可能涉及超过100万美元,以及70个虚拟人。
从已经公开的资料来看,2019年9月至2023年12月,假冒学生的AI申请者,从美国联邦教育体系中获得了超500万美元的资金援助。
州政府同样深受其害,2024年,加利福尼亚州州政府透露,州内高校共收到了约120万份涉嫌造假的学生申请,最终确认为虚假注册的案例达到惊人的22.3万起,导致助学金损失超过1110万美元。
美国“数字学生”正在骗取学校补助。(图片上22,3万起改为 22.3万起;数据依源……删除)
这些“数字学生”比人类还擅长“人情世故”。(加粗突出)它们会给教职员发邮件希望提高评分的等级;甚至在远程课堂的出勤率,比真正的学生要高,也会按时交作业;诈骗者甚至利用Chat GPT等AI工具伪装成学生抢占课堂席位,让真正的学生无学分可修……一套连招下来,教职员光是要分辨真伪学生就已经筋疲力竭。
总的来看,AI换脸在类似的诈骗案件中的使用率极高,同时又有语音合成技术相配。犯罪分子通过非法获取的人脸照片和语音样本,就能快速利用开源AI工具,生成极其逼真的虚拟形象。
05
从薄弱处攻击其他行业
把视角拉远,看看校园之外的社会,我们会惊悚的发现,类似的AI生成软件工具正在渗透消费、金融等领域的所有漏洞,可以说我们正面临着前所未有的信任危机。
多名科技公司技术人员告诉记者,通过深度学习和语音合成技术,AI足以高度逼真地模仿任何人的声音,其精确度能绕过目前广泛应用于电话银行、在线支付等领域的声纹验证系统。
声纹认证在十多年前开始成为高端银行客户的身份验证手段,客户通常需要在电话中说出一个指定短语来访问账户。
然而,现如今 AI 语音甚至是视频克隆技术能够在越来越高的精度下模仿个人身份,OpenAI首席执行官萨姆·奥特曼(Sam Altman)曾指出,这种模仿方式已经“几乎无法与真实区分”。
“让我感到震惊的是,居然还有一些金融机构接受声纹作为身份验证。这简直不可思议,AI 技术已经完全突破了这一防线。”他断言,AI已经完全击败了目前人们使用的大多数身份验证方式,除了密码。
一旦不法分子能随意模仿个人声音,就能轻易冒充受害者、越过安全检查,直接进行资金转移,其后果不堪设想。
这种AI语音技能还有更广泛的诈骗应用,比如用于模仿高管的语音指令,指示财务部门进行未经授权的资金转移。
2020年,一家英国能源公司的CEO在电话中接到德国母公司老总的指令,要求他立刻向匈牙利供应商支付一笔紧急款项 。
诈骗分子声称该老板“刚刚换过号码”,让其拨打新号码确认。当这位CEO拨打该号码时,听到的就是经由AI深度伪造后的“老板”声音。“老板”在电话中语气紧急且权威,强调款项必须在1小时内完成支付,并要求确认转账是否完成。此案后续被FBI等机构多次引用作为典型案例。
敏感的人早已意识到这其中最令人悚然的问题:AI的各种“模仿技”,正在对传统安全防线进行冲击。传统“你是不是本人”的验证问题,在AI面前变得毫无意义,因为AI可以完美地“扮演”任何人。
通过合成受害者的声音、面部特征甚至行为模式,AI还可能被用于创建虚假的身份信息,进而用于开设银行账户、申请贷款或进行其他非法活动。
况且,AI目前可以生成高度个性化、语法流畅、逻辑严密的钓鱼邮件或信息,模仿特定机构的语气和风格更是不在话下,受害者或机构往往难辨真伪。
06
用AI反制AI
既然AI的能力我们已经有所了解,那么到底有什么办法能控制这头“猛兽”不为犯罪分子所用?或许解铃还须系铃人。
今年4月,OpenAI内部曾测试过一项新功能,即在用户生成的图像加上水印,让采用ChatGPT-4o内嵌的ImageGen大模型生成的图像,上面都有特殊水印。这一举动也是为了告知所有人此乃AI生成图片。
但这也是杯水车薪,因为水印非常明显,用户可以通过各种编辑软件轻松抹除。作为平台企业,完全可以在产出物上设计一些隐藏信息编码技术,在看似普通的内容里藏一些表面看不出来、但内行人可提取分辨的信息。
更重要的是,要加强对AI生成内容的鉴别能力。这意味着需要投入研发,开发能够识别AI生成声音、图像、文本的工具。利用AI反制AI,通过训练识别虚假信息的数据模型,来辨别出那些非人类生成的合成内容。
欢迎通过邮局渠道订阅2025年《电脑报》
邮发代号:77-19
单价:8元,年价:400元
编辑|张毅
主编|黎坤
总编辑|吴新
爆料联系:cpcfan1874(微信)
壹零社:用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子,商业故事。《中国知网》每周全文收录;中国科技报刊100强;2021年微博百万粉丝俱乐部成员;2022年抖音优质科技内容创作者
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.