数字经济新时代，马上金融防伪大模型成深伪检测新利器

伴随人工智能技术的迅猛发展，Deepfake等伪造技术正在从影视娱乐延展到更广泛的社会领域，对经济和金融安全构成了严峻威胁。近日，世界知名科技刊物《麻省理工科技评论（MIT）》发布的报告指出，中国的马上消费技术团队的防伪大模型正在成为深度伪造检测的重要突破口，为应对全球深伪挑战带来了新机遇。

2025年，AI深度伪造很可能成为“全球首要风险”。今年年初世界经济论坛发布《2024年全球风险报告》预测，AI生成的错误信息和虚假信息被列为“未来两年全球十大风险”之首，其会使本就两极分化、冲突频发的全球形势进一步恶化。

马上消费人工智能研究院院长陆全近期表示，Sora无疑是技术领域的一次重大突破，但也会降低AI伪造门槛，潜在引发Deepfake等黑色产业链滋生蔓延。防伪大模型为金融黑产提供了先进武器。据测算，2023年，国内黑产欺诈引发的经济损失达1149亿元，金融业务欺诈金额达75亿元，国家监管机构持续预警，金融机构声誉严重受损，金融客户合法权益不时受到侵害。

聚焦到金融行业，Deepfake主要构成身份欺诈，即通过深度伪造的虚假图像和视频来冒充他人，骗过金融信贷流程中的身份核验系统，进而实施盗刷、恶意注册等。得益于防伪大模型的技术突破，金融行业目前对Deepfake有了比较成熟的解决方案。

一方面，源于Chain of thought 思维链技术。防伪大模型拥有前所未有的编码能力，通过编码进行概念延申和推理，充分掌握图片细节所蕴含的内在信息。在关于图像输入的因果推理能力的测试中，Gemini Pro和 GPT-4 在未经过防伪专项增强时，能够对伪造人脸指出其毛发、皮肤、背景等诸多细节问题，如“福尔摩斯”一般，这代表大模型对图片理解能力的显著提升。

另一方面，Scaling law 规模效应显现。防伪大模型具有大模型的一般特点，即数据的有效增长可以促进模型能力的同步提升。随着深度伪造数据的积累和录入，防伪大模型的域外能力在显著增强，这种增强相较于传统专家模型是数以百倍的提升。

作为金融行业的“数字盾牌”，未来，马上消费技术团队将继续提升防伪大模型的能力，为全球防伪与金融安全带来更多创新应用。面对愈加复杂的深伪威胁，这一技术将成为保障数字经济和金融体系安全的重要基石，造福更多企业与个人。