买家虚构瑕疵“仅退款”，商家“生成”店铺做外卖，“AI照骗”新套路怎么破

眼见为实，恐怕未必是句实话了。

当生成式人工智能（AIGC）变得触手可及，它的副作用也开始显现。有买家用AI伪造商品瑕疵发起“仅退款”，有外卖商户用AI将小作坊“生成”高级门头欺骗消费者，有商户通过克隆明星声音来牟利，而AIGC工具让造假的门槛越来越低。

面对这些恶意的以假乱真，平台商家能够有效应对？新技术运用又如何找到平衡点？

图片来源：网络

买家和卖家都有“AI照骗”新套路

AIGC已进军“仅退款”领域？在某平台做陶瓷杯生意的一位商家最近就碰到了烦心事——买家在收货后，拍摄了产品实物图，然后用AI软件虚构杯子有裂纹的图片。“开始大家还没有看出来。”品牌电商负责人告诉记者，后来客服与产品经理研究后认为，杯子一般以缺口等瑕疵为主，而图中的裂痕，其损坏方式与常见的情况不符，后来对比杯子的纹路确认图片是伪造的，但由于难以提供证明，最后商家无奈承担了“仅退款”。

这并非个案。最近不少商家都遇到类似的“AI照骗”新套路，买家将完好无损的袜子、杯子等图片，用AI处理成碎裂、有瑕疵的样子，然后提交售后申请。平台有时会跳过商家审核直接退款处理，商家因此钱货两空。记者咨询了多个电商平台的负责人，相关人士回应称，“这类图片目前确实比较难检测”。

买家用AI伪造瑕疵，外卖商家则用AI“生成”店面。记者在外卖平台上看到，以上海为例，某平台上显示的川婆娘·拒绝预制菜（虹桥店）、川婆娘·拒绝预制菜（南翔店），点击进去，门头都是浓浓的AI画风，营造出门店整洁、顾客满座的假象，但如果翻阅评论图和商家其他图片，再无任何一张“实景图”。

图：外卖平台截屏。

网经社电子商务研究中心主任曹磊认为，过去网络上也会有“视觉骗局”，但无论是买家还是商家，都需要有一定修图技术或支付较高费用，但现在门槛变低了，商家只需花30多元就能“定制”AI门头，消费者也只需写几句提示词就能制造假象，这种现象值得警惕。

AI换脸、声音克隆成重灾区

随着AIGC的普及，除了文生图之外，依托语音大模型“克隆”特定公众人物的声音也变得易如反掌。

“大家好，我是你们的婵宝，今天有事请大家帮忙。婵妹就想着帮助妈妈，让家里的生活过得更好一点，同时把老家的土鸡蛋分享给粉丝们尝尝……”此前有媒体爆料，在抖音平台，博主“我是小助理吖洁爆”账号中的作品，全都是AI克隆奥运冠军全红婵的声音带货土鸡蛋的视频，逼真的声效让不少消费者误以为是全红婵本人在直播带货，商品链接显示已售出4.7万件。

图：文汇

有意思的是，在“全红婵助农”这件事上，AI造假还形成了“闭环”，在其他账号上，还有孙颖莎、王楚钦等“助阵”的视频。但事实上，所有当事人从未做过相关直播。截至记者发稿时，这些用户均已被注销。

AI换脸也是重灾区。记者此前在世界人工智能大会上就体验过秒级“换脸”，只要站在屏幕前扫描面部，通过基础的AIGC工具，仅需几秒钟就可以生成一个“数字假面”，且AI伪造面容可复刻真实人脸的表情纹路以及摇头、眨眼等动作。而此前，就有不少中老年女性深陷“AI靳东”爱情骗局，AI语音直播间甚至能根据弹幕实时生成回答，形成标准化作业流程，让人防不胜防。

电商等领域仍缺少有效对策

针对AIGC以假乱真现象的日渐泛滥，有没有技术手段可以破局？

记者从多方了解到，在金融领域，抵御“AI深度伪造”的安全“防火墙”准备较为充分。过去两届世界人工智能大会期间，蚂蚁数科旗下的安全科技产品ZOLOZ、合合信息旗下的AI人脸鉴伪模型都展示了用AI来识别AI视频造假的技术，这些技术目前已应用于多家银行、证券机构。

不过，当下AI伪造能力有泛滥趋势，正在冲击个人权益、经济秩序与社会信任体系。在包括电商、外卖、视频直播等更广泛的民生领域，相关方面仍缺少有效的对策。“这已不仅是技术问题，更是社会性议题，涉及立法、监管、前沿研究与技术实践，需要多方跨界合作。”合合信息图像算法研发总监郭丰俊认为，在技术上，“标注与溯源”是较好的解决之策，视频发布平台可采用主动防御型“半脆弱性数字水印”，该方法可在不影响原始内容的前提下，将不可见水印嵌入关键身份特征（如人脸表征）中。一旦视频被篡改，水印即遭破坏，鉴伪检测器即可识别篡改行为并定位编辑位置，从而保障标注的持久性与可信度。

曹磊则认为，针对电商“仅退款”领域越来越多的AI造假问题，建议各大电商平台短期内可建立“AI伪造”快速通道，帮助商家或消费者及时维权，同时推动平台完善相关算法。他还表示，从行业长远健康发展看，搭建跨平台协同治理共享是解决AI造假问题的关键之举，各大平台应该合作共享欺诈案例数据和模型，阻断AI造假演变为“现实中的真损失”。

原标题：《买家虚构瑕疵“仅退款”，商家“生成”店铺做外卖，“AI照骗”新套路怎么破》

栏目主编：戎兵

来源：作者：文汇报 徐晶卉