用AI伪造图骗“仅退款”？国家反诈中心出手了！

网购时遇到“问题商品”，随手拍照申请“仅退款”，本是消费者维权的利器，现如今却成了有些人利用AI钻空子的“重灾区”。近期，不少电商商家反映，有顾客使用AI伪造出来的“问题图”申请仅退款。不用退货还能白拿商品，这让商家叫苦不迭……

Recently, online retailers have faced challenges from buyers using AI-generated images to claim refunds without returning their purchases. It is a common practice for buyers to photograph defective goods to request refunds or returns. However, digitally manipulated images allow unscrupulous buyers to keep their products, leaving merchants frustrated and sparking public debate.

河北辛集市的张先生近日就遇到了“问题图”。张先生是一名无花果树种植户，上个月他把店开到了直播电商平台，售卖无花果苗。然而仅卖出12单后，他就收到了一份“仅退款”申请，对方的理由是收到的果苗已干枯死亡，并附上了一张叶片全黄、毫无生机的树苗图片。

张先生感到疑惑。“直播选的苗，他选了一颗特别健壮的。我是带盆发货的，发货之前也会保证土壤湿润。发货到客户收到就两天时间，苗不可能干到颜色枯黄。缺水枯黄至少要5天到7天。”张先生说。

凭借多年种植经验，张先生觉得买家发来的图有问题。在他看来，如果真的失水，苗的叶子不会展开，应该是皱且下垂的。而图中枯萎死亡的状态，完全是把正常植物的叶片改成了枯黄色，稍微有点经验的人都能看出来。于是，他驳回了“仅退款”申请。

然而，买家随后申请了平台介入。尽管张先生据理力争，平台依旧按照顾客发来的图片，几分钟内便通过了“仅退款”申请。

张先生的遭遇并非个例。不少商家都在社交平台上讲述过自己见过的AI伪造售后图片。例如，五只衣架在同一位置整齐断裂，塑料手机壳断裂边缘出现毛刺……

Zhang's ordeal is not isolated. Many sellers have shared similar experiences, encountering AI-generated fake images in after-sales disputes. Some have complained about identical breakages in multiple hangers, clearly indicating digital manipulation.

对此，一些网友推荐使用国家反诈中心APP新上线的“AI内容鉴定”功能。用魔法打败魔法！用户可通过上传图片、视频、音频或文字来检测是否存在AI生成痕迹，进而用来识别诈骗场景中的伪造内容。

A new feature on a national anti-fraud app in China is using artificial intelligence to detect AI-generated traces in images, videos, audio, and text. This development aims to identify fake content and prevent scams, offering relief to online store owners struggling with fraudulent refund requests.

但也有部分网友表示质疑：用AI治理恶意AI靠谱吗？能有效果吗？

答案是：亲测，有效！

看到有小伙伴随机选取商家宣称的疑似AI生成“售后图”上传至国家反诈中心App，被系统判定为“图像含AI生成痕迹”后，双语君也试了试。上传一张自己随手拍摄的照片，系统则显示“未检测到合成痕迹”。AI加持后再上传，则显示“图像含AI生成痕迹”。

国家反诈中心App正式上线“AI内容鉴定”功能的同时，各互联网平台也在积极布局“AI鉴真工具”。

某网络平台安全内容视觉算法负责人兰钧介绍，检测方法由两部分组成，一部分是小模型来学习AIGC模型生成内容的模式，基于大量的内容学习和训练，然后进行判断。另外会用大模型来关注内容本身，看它内容上有没有物理上的瑕疵，比如文字有没有乱码；此外也会看它逻辑语义上是否会出现不符合逻辑的问题。最终小模型和大模型结合，一起来进行判断。“我们希望它不要出现误识别。用户或者商家可以尝试外部的一些AI鉴真工具来辅助进行判断。对于目前这种AIGC的技术生成内容还是比较有效的。”

"We aim to minimize false identifications," said Lan Jun, a security content visual algorithm specialist at an online platform, who advised users and businesses to employ external AI authentication tools to support their judgments.

应对AI造假，核心在于“以AI治AI”。业内人士表示，目前较为成熟的鉴真工具几乎能不误伤真实内容，又能较为精准识别AI造假内容。

AI伪造图片骗取退款的行为，本质是民事欺诈，若不及时遏制，将威胁电子商务的正常秩序与健康发展。AI鉴真工具能大幅降低商家的辨别成本，既能震慑不法分子，也能作为商家与平台交涉、维护自身权益的有力证据。

The key strategy to combat AI forgery is leveraging AI itself. Using AI to create fraudulent images for refunds constitutes civil fraud. If unchecked, it could disrupt the e-commerce ecosystem.

北京邮电大学互联网治理与法律研究中心主任谢永江表示，现在从技术上已经有相应的AI内容鉴定工具了，平台有义务引进这种技术手段来维护平台上的交易秩序，维护商家和消费者的合法权益。

有人会说，我又不开网店，这功能跟我有啥关系？但双语君觉得，在AI生成图像泛滥的当下，如何精准鉴别真伪已成为很多人绕不开的现实问题。

In today's world, where AI-generated images are increasingly common, distinguishing between authentic and fake content is a growing challenge.

“AI内容鉴定”功能对卖家来说，它是被“碰瓷”时的底气；对大多数普通人来说，它更是识别AI换脸诈骗、伪造谣言时的“火眼金睛”。科技向善，从我做起。

记者：曹音

来源：央视新闻微信公众号

跟着China Daily

精读英语新闻

“无痛”学英语，每天20分钟就够！