人工智能“造假式索赔”，违法吗？

近期，一些消费者利用AI工具制作虚假图片来骗取退款的行为，被部分商家在社交平台上曝光，随即引发热议，AI软件甚至又多了个“退款神器”的名头。发霉的水果、破裂的镜子、洒掉的奶茶……据记者了解，社交平台上类似被商家披露的案例中，大多是消费者对AI软件下达指令，生成相应的伪造图片后，再声称货品存在质量问题，以此申请售后处理。

消费者利用AI伪造商品有问题的图片申请退款，这种行为该如何定性，是否涉嫌违法？平台如果没有尽到审核义务支持买家退款，商家损失怎么办？监管部门、电商平台及商家可采取哪些具体措施予以监管和遏制？

▶案例一：伪造酸奶发霉图片

△人工智能修改伪造的酸奶发霉图片，原图和伪造图对比

△图片伪造过程

▶案例二：伪造蛋糕磕碰破损图片及视频

△人工智能修改伪造的网购蛋糕磕碰破损图片，原图和伪造图对比

△图片及视频伪造生成过程

在社交平台上，有商家晒出了一些所谓商品“瑕疵”图，部分商品图片似乎可以以假乱真，但是仔细看依旧有不少漏洞。例如修改后的图片中，商品出现了不合逻辑、不合常理、不符合物理规律的变化等，部分图片还留有“人工智能生成”的水印或者标注。记者检索发现，涉事商品大多为食品、生活用品等，虽然单价不高但是依旧引发讨论。这种行为到底是“薅羊毛”还是涉嫌违法？

中国互联网协会法治工作委员会副秘书长 胡钢：依照我国《民法典》和《消费者权益保护法》的有关规定，消费者应当遵循诚信原则，依法维护自身的合法权益。消保法实施条例也规定，消费者通过造假、捏造事实等方式骗取经营者的赔偿，或者对经营者进行敲诈勒索的，不适用惩罚性赔偿的规定。

北京邮电大学互联网治理与法律研究中心主任、教授 谢永江：如果是数额较小，消费者可能涉嫌民事欺诈，商家可以要求返还货款。如果涉及金额较大或者情节严重的，消费者还可能构成行政违法甚至涉嫌诈骗罪。

《治安管理处罚法》就有相关规定，这种诈骗要处5到10日的拘留或者2000以下的罚款，情节较重的话，要处10到15日拘留，3000以下的罚款。如果数额够大，比如说3000以上达到这个刑事立案的标准，那可能构成这个刑法上的诈骗罪了。

胡钢表示，除了消费者，不少经营者也利用人工智能等技术实施造假。同时，恶意索赔的消费者毕竟仅占广大消费者中极少的部分。那么，如果平台没有尽到审核义务，支持买家“AI造假”退款，给商家造成损失怎么办？

胡钢：依照我国《网络安全法》《电子商务法》等法律的有关规定，平台经营者应当履行合理的身份核验、内容审查、争议调处等法定职责。平台经营者没有妥善尽到合理的审核义务和调处义务，造成平台内经营者损失的，平台经营者应当与恶意索赔的消费者共同承担相应的赔偿责任。

记者也尝试使用多款人工智能软件进行“复现”，发现部分生成结果的确可以以假乱真。

商家无法分辨诚实消费者，不得不增加防伪成本，如录制商品封装过程等；消费者难以甄别商家宣传的真伪，购物决策变得犹豫；平台则陷入对交易双方行为的审核困境。部分消费者利用AI造假破坏市场环境，监管部门、电商平台及商家可采取哪些具体措施予以监管和遏制？

面对AI伪造的退货图片，商家也探索应用了一系列应对措施。部分商家表示，对于“仅退款”的交易申请已经提高审核门槛，例如要求买家提供不同角度的拍摄照片，甚至提供连续的视频证据。还有的购物App要求必须通过自带拍照功能拍摄商品图片，无法从相册选择图片。

胡钢：从监管部门而言，需要不断完善相关法律法规，特别是及时出台有关AI技术实施欺诈等违法行为的专门规定，或健全有关技术指南，从而明确其法律性质和处罚标准。其次，要加强技术监管，利用技术手段来强化对相关违法行为的监测、识别和打击力度，同时对个别典型的案例严格处罚，形成震慑效应。

胡钢认为，要强化国家强制性标准的建设和实施，即强制要求人工智能技术生成的内容必须带有不可篡改的水印或标识，以便及时识别和有效溯源。

胡钢：对于电商平台经营者而言，要强化其技术和管理措施，例如升级审核技术，优化审核流程，并且加强对商家和消费者的培训和支持。对于商家，需要强化证据留存，提高风险防范意识，并且积极有效维权。

为规范AI发展问题，自9月1日起，《人工智能生成合成内容标识办法》已正式实施，明确规定AI生成内容需要“持证上岗”，人工智能生成合成内容应有显式标识和隐式标识。但是新规并没有就不进行AI标注的法律后果进行明示。谢永江建议，对此类“仅退款”的申请，平台方应当升级相应的技术手段，对新规要求下的图片或者视频进行实质性审核，尽到合理的审查义务。

谢永江：平台碰到这种新现象，它应该对照片、图片进行实质审核，判断是否伪造，要有配套的技术手段，提高识别率。另外最好也听取商家的意见，看看商家陈述，对于商家有救济渠道。如果平台没有尽到审核义务的话，平台方就有过错，如果对商家造成损害，也应该承担责任。

此外，谢永江还建议，构建跨平台消费者信用联动机制，对此类恶意退款行为进行限制，将不诚信消费者纳入征信体系。

谢永江：如果能够跨平台进行信用联动，你在某平台上用这种手段来申请退款，那在别的平台上也把你列入相应的黑名单或者是关注名单。对消费者来讲，如果恶意申请退款，那就付出相应的代价。可以通过主管部门来牵头，或者行业平台来牵头建立这种机制。

（中央广播电视总台中国之声）