“无图无真相”，这句网络流行语说的是在互联网时代图片信息的重要性，但反过来说，“有图有真相”却难以成立，图片编辑及PS手段的滥用，大大降低了图片在网络传播中的可信度。
近年来随着深度学习尤其是对抗生成网络（GAN）研究的进一步深入，也导致很多人利用这一技术进行图像的造假。如我们所熟悉的Deepfake，其背后的技术就是GAN。
深度学习与人工智能技术不仅可以用于图片造假，同样也成为了鉴别网络图片真假的利器。2月17日，阿里天池上线篡改图像检测大赛，邀请各路安全技术人员及计算机视觉技术人员参与“篡改截图”比赛，考验AI的防守性能。阿里高级安全专家渡明表示，举办此次大赛一方面旨在推进相关防篡改技术的进步，助力解决网络诈骗的社会问题，另一方面也是为了给行业培养更多安全技术人才。
“近年来大量诈骗违法人员引入伪造各类证件、转账记录等技术手段实施诈骗，识别破解难度大幅增加。”渡明介绍。“若篡改检测技术能大量普及应用，也能一定程度遏制网络诈骗。”
据阿里安全介绍，目前新一代安全架构核心技术伪造图像检测AI已经应用在聊天信息、资质证明、物流风控、转账记录、媒体内容等领域的真实性检测中。
以阿里安全在在工作中遇到的一个例子为例，随着环球影城走红，阿里安全的图像伪造检测AI发现，有不法分子试图通过伪造的环球独家旅游咨询点线下门脸图像和“票务咨询”电话进行欺诈牟利，经AI技术迅速自动识别该门脸图的PS痕迹，工作人员在线下地点再次进行人工审核，发现实际区域并无该咨询点，且该“票务咨询”电话为诈骗电话，于是拦截了这一申请。
（伪造图像检测AI发现用户上传的图片存在修改痕迹）
网络上的造假图片包含PS、图像篡改、GAN生成等多种造假方式，而面对诸多造假方式，我们很难找到一个综合的指标来评估图片是否造假。目前，国内外学术界对于诸如Deepfake以及自然图像篡改检测已经取得了一定的成绩，但在实际场景中，日常带来风险损失的假图通常是资质证书、文案、截图等，现有的篡改检测方法直接应用到这些新类型图像时，准确性能大幅下降。
对实际场景应用的图片造假检测一直是阿里安全关注的重点区域。从2019年开始，阿里安全“挑战者计划”组织过多次与图像鉴别有关的系列赛，从最初的人脸对抗识别比赛、ImageNet图像对抗比赛到场景文本对抗比赛、通用目标检测的对抗攻击，比赛关注的内容越来越关注实际场景的应用。2021年，阿里安全与清华大学联合举办“伪造图像的对抗攻击”比赛，今年的比赛则在去年的基础上进一步强化了比赛的对抗性和“攻击”的内容，数据类型更丰富，更接近真实应用场景，难度也更高。
具体来说，相对于去年举办的AI挑战者计划第五期“伪造图像的对抗攻击”比赛，今年的比赛不仅要求比赛选手能识别包括资质、文书、截图、门脸图等更多真实业务场景的图像篡改痕迹，同时还要求选手对缩放、重压缩、裁剪、截图、社交传输等真实攻击方式进行检测。在为期一个月的比赛中，选手需要通过提供的训练集学习出有效的检测算法，对测试集的4000张图像进行篡改定位，生成对应的二值化mask图像，并根据选手所提交的mask与基准mask计算F1值与IOU值，决出最后进入决赛的名单。
（伪造图像检测AI发现“营业执照”的伪造痕迹）
AI科技评论了解到，用深度学习进行伪造图片检测的一个难题是模型的鲁棒性，即在学习的数据集上评价很好，但换个应用环境就很差。以常用的图像篡改数据集CASIA为例，通过对该数据集的学习算法可以学习到图像拼接边缘的特征，但在很多实际应用中效果一般。而从技术发展的角度来说，GAN生成的图像越来越完美，传统方式的评价有着很多不足。促进产学合作、寻找更优秀的识别算法，将研究成果扩大到更多的应用领域，这也是阿里安全通过比赛希望解决的问题。
中国人民大学计算机视觉方向的研究生鹿月与轮辉就在2021年参加了阿里安全举办的AI挑战者计划第五期“伪造图像的对抗攻击”比赛，他们在比赛中沉淀的论文研究成果被计算机视觉三大顶会之一的ICCV收录。之后，两人又收到阿里安全的面试邀请，并最终获得媒体安全团队实习机会。
现在鹿月投入到了实习项目“盗图识别”研究中，她对新研究能实际接入产业应用而感到兴奋，“比如我也注意到现在网络上一张P图就能编造很多假新闻和谣言，希望检测技术能够帮助发现这些假图，识破谣言。”鹿月说。
截止2月21日，目前已有超过300支队伍报名参赛。随着比赛的进行，阿里安全预计比赛将吸引近千支队伍参赛，进一步推动他们对图像篡改和在更多场景上AI安全问题的关注。
“很开心以往的参赛选手能将研究和实际应用结合，我们也希望以创新性的比赛培养更多技术人才，推动该领域的技术进展，从源头以科技创新解决社会生产、生活的安全问题。”渡明总结道。
比赛网址：https://tianchi.aliyun.com/competition/entrance/531945/introduction
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
