浙江
190块榴莲骗“仅退款”，卖家气得驱车1600公里去打官司！日前发生在河南烤鸭蛋铺子程老板身上的“天价榴莲事件”，让AI假图冲上了热搜。
科技进步本意是让创意自由，如今却被用来薅羊毛 ，甚至 引发灰色产业。很多人 不禁 好奇：既然AI能生成假图，那AI为什么不能识别出这些假图？当前的AIGC图像视频检测能力，是否能够协助商家识别AI假图，并且“用更领先的AI遏制恶意AI”？
AI进化戳破“有图有真相”
这场拉锯战的另一个主角，就是AI生图。
AI画出一颗霉变发黑的烂榴莲，后台秒速通过退款；现实中，卖家程先生发出去的却是包装完好带冰霜的鲜榴莲。成本仅50元的AI造假，逼着他从河南濮阳跑到山东德州翻垃圾桶，前后花掉5000元，最终以行政拘留将买家送进了派出所。
这两年，随着AI生图技术越来越厉害，像Seedance、GPT-Image-2这类生图模型进入“熟成期”：几 个关键 词，就能一键生成以假乱真的坏果子、霉变肉，整个过程只要几十秒，真假难辨。甚至还有一些“薅羊毛导师”开出了288元“AI退款实战课”，手把手教“月入千元”等灰色产业。
近日发生的上海杨浦敲诈案更离谱：一男子用AI快速合成医院就诊记录、门诊病历和诊断意见，以“食物中毒”为由先后向多家烤肉店敲诈勒索。
从电商到保险再到诈骗，AI造假正快速向支付领域和金融场景蔓延，甚至有些地区已经形成了“薅羊毛村”和灰色产业链。
用更领先的AI遏制恶意AI
“事实上，AI造假也不只是出现在电商领域。但凡涉及图片证明、涉及金钱和经济价值的各个行业和产业，都将面临这个问题。”蚂蚁安全内容视觉算法负责人兰钧对橙柿互动记者表示。
换句话讲，现在光靠一双肉眼很难看清这个证据是不是真的。比赔了钱的商家更提前意识到这件事的，其实是以支付业务起家的蚂蚁。
早在2023年，他们就盯上了这项技术。“过去造假需要懂PS，现在随便一个普通人，几句话就能生成图。”兰钧解释，造假门槛低了，蚂蚁的判断系统立马升了级：光看一张图还不靠谱，就配合物理逻辑，例如水果背面的霉斑不可能像画画一样对得齐齐整整；也得捋一下语义常识，例如榴莲包装袋明明冒冷气再冻却长了霉菌，完全不符合冰箱原理。
甚至AI生成的“奇葩图”也逃不过模型的审视：比如图片中捏着杯子多出两根手指，或者烂榴莲能自己长出对称霉花，这些“反物理操作”，照样能被模型揪出来。
这套“AI火眼金睛”目前已经用在支付、投保、内容安全等前置审核场景，有用户在支付宝发起退款或上传理赔照片时，系统会自动排查照片是否由AI生图“移花接木”。
值得一提的是，今年4月，蚂蚁还拿下了计算机视觉顶会CVPR 2026 NTIRE图像检测挑战赛的两个冠军。这意味着模型不仅能在真实的社交平台、翻拍等复杂场景中，辨别真图假图，还能像侦探一样圈出“可疑部位”，告诉审核人员哪块肉的光影没调好、哪里又在物理常识上出BUG，这道“看图说话”的技术，正是未来用AI保障交易安全的基石。
都市快报·橙柿互动 记者 刘永丽
编辑 陈伊
审核 罗祎 陈欣文
审核 王建英
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
