江苏
从传统图像编辑软件到生成式大模型，AI让图像、视频等内容生成的手段愈发简单，也让信息篡改的形式更隐蔽，载体更多样，让人防不胜防。网络加速器供应商Surfshark公布的数据显示，2025 年上半年，深度伪造相关金融欺诈造成全球损失近9亿美元，AI伪造能力的泛滥正在冲击个人权益、经济秩序与社会信任体系。
当技术伪造的能力逐渐超越肉眼识别的边界，AI鉴伪技术的发展进程牵动着公众的视线。2025世界人工智能大会上，AI鉴伪技术在人脸视频、AIGC生成图像、证件票据等当今AI伪造“重灾区”中的应用体验，帮助参观者了解AI如何通过视觉特征、图像合理性判断、多维度交叉验证，精准洞察多模态信息中“看不见”的伪造痕迹。
人脸视频篡改检测技术“毫秒级”狙击“数字假面”
在合合信息AI安全展台互动区，观众们正在排队体验一场“真假人脸”的科技较量。站在屏幕前扫描面部，系统就会实时生成一个“数字假面”，当真假人脸同屏对比时，不少观众惊讶地发现，AI伪造面容近乎完美地复刻了真实人脸的表情纹路。据技术团队人员介绍，展会互动装置中实时生成的“假脸”由当前主流伪造算法生成，在合合信息AI人脸鉴伪模型的解析下，一张张“假脸”被精准挑出。
AI人脸鉴伪模型对“换脸”视频进行精准检测
当前人脸伪造技术手段层出不穷，传统检测算法对新型“换脸攻击”存在滞后性。在进行模型训练时，技术团队针对主流人脸伪造算法进行研究，采用持续增量学习策略，与最新伪造算法同步迭代。基于大规模数据训练，形成了多层次篡改检测方案，实现毫秒级实时鉴定。
例如，应对人脸图像交换伪造，AI人脸鉴伪模型能够锚定人眼不可见的高级视觉差异，给每一个像素打上真伪标签并计算伪造像素占比，为图像真伪概率“打分”。此外，面临更复杂的伪造情况，例如由伪造算法直接生成的复杂图像。团队采用了多种神经网络模型，聚焦于图像特征，实现多维度交叉验证真伪，让判断结果更精准。
AI来“找茬”，AIGC图像鉴别技术秒辨名画真伪
在AIGC图像鉴别技术展区，一场别开生面的“世界名画版大家来找茬”活动吸引了不少参观者驻足体验。经过大模型的处理，《蒙娜丽莎》《向日葵》等名画或是添加了新元素，又或是微调色彩，让人难辨真伪，这正是当前AIGC图像鉴伪面临的挑战。随着技术迭代，肉眼可识别的“失真细节”正变得越来越少。
技术人员介绍说，基于多模态大语言模型能力，AIGC图像鉴别技术可通过不同角度和不同层级的prompt，分析AI生成图像的视觉特征以及透视关系、光影角度等合理性因素，同时抽取图像频谱信息辅助模型进行判断，输出推理结果，让生成式假图无所遁形。
AIGC图像鉴别技术秒辨名画真伪
据合合信息技术团队人员介绍，实际应用场景中，AI生成图像会经历压缩、缩放、裁剪及社交媒体传输等多个干扰因素，导致图像质量降低，增加检测难度。但现在AIGC图像鉴别技术具备了抗攻击能力强的独特优势，即使面临上述干扰也能精准捕捉图像异常特征。目前，该技术还可实现毫秒级鉴伪，测试样本集鉴定准确率超90%，有效识别MidJourney、 Stable Diffusion、StyleGAN和GPT 4O等主流模型生成图片。
技术专家表示，近年来，不法分子利用AI技术进行诈骗的案件频发。诈骗团伙利用工具批量制作“假图”，用“规模化攻击”寻找“AI安全防御漏洞”，使得成千上万的伪造图像、视频如病毒般弥散在社交平台、金融系统甚至公共安全领域。随着AI技术的更新速度加快，数字安全形势也将愈发严峻，因此需要持续迭代的AI鉴伪技术拓宽防护边界。
扬子晚报/紫牛新闻记者 徐晓风
校对 陶善工
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
