当下,一些不法分子利用AI技术伪造人脸,在线上诈骗钱财,严重影响行业秩序,让不少群众苦受其害。近日,中央电视台财经频道《经济半小时》播出的专题报道《AI换脸诈骗的攻与防》讲述了AI技术滥用背后暗藏的金融风险,并深度解析以度小满为代表的机构如何通过技术升级构建金融安全防线,为金融行业应对AI深度伪造提供了参考路径。
度小满深伪检测模型持续升级
在《经济半小时》报道中,记者采访了金融科技公司度小满。据介绍,目前度小满已经研发了专门的风险识别算法。度小满相关负责人介绍,此前有一条活体认证视频进入系统,算法识别其风险分数达90多分,命中风险预警,经审核确认是一起AI换脸攻击案例。“国际认证中,90多分代表高于90%真实度的AI换脸,我们的系统能精准识别。”
在AI换脸模拟场景,度小满工作人员向央视记者展示了高仿真人脸生成审核样例:4张看似相同的人脸中,仅1张为真人。记者用肉眼无法分辨真伪,而团队的深伪检测模型给出了清晰结果——风险分数50分以上即为高风险,前3张假脸均超过50分,真人则在50分以下。“魔高一尺,道高一丈,我们的深伪检测模型在持续升级。”度小满首席技术官张文斌表示。
![]()
(央视《经济半小时》节目报道截图)
以“红蓝对抗”模式开展模型训练
为提升技术防护能力,度小满还借鉴军事训练中“红蓝对抗”模式开展模型训练:蓝军模拟犯罪分子用AI人脸攻击服务器,红军负责识别拦截,确保在新型AI换脸技术出现前,提前做好应对。目前,该技术模型参数量达百亿级别,相较于两三年前普遍几千万级别的活体防伪模型,实现了从普通模型到大模型的跨越,能力大幅提升。实战成果显著,据张文斌介绍,去年度小满为14万客户发出诈骗提醒,成功阻止3000多起诈骗案件,预计挽回1.8亿元经济损失。
![]()
(防深伪技术工作后台界面)
值得警惕的是,随着AI技术变得越来越普遍,风险识别技术也需要与时俱进。有多位金融业内人士建议,面对AI换脸骗术,需推动全行业信息共享与技术共享。当一家金融机构发现新型AI诈骗手段,应及时同步至整个行业,不给骗子二次作案的机会,共同构建互联网金融安全屏障。
度小满构建AI换脸诈骗防护体系,以AI对抗AI,让大众高度警惕AI深度伪造风险,不给犯罪分子可乘之机。在金融反诈领域,度小满积极布局各项前沿科技,加快推动创新技术在金融领域的应用,以创新技术攻克诈骗骗局,守护大众的“钱袋子”。今后,度小满将持续深耕AI防深伪领域,打造安全文明的金融生态环境。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.