眼见不一定为实，耳听不一定为真！山西省消费者协会发布警示：谨防“AI换脸”和“AI配音”诈骗陷阱

近日，山西省消费者协会发布警示，谨防“AI换脸”和“AI配音”诈骗陷阱。

不久前，演员温峥嵘在网络上发声，控诉自己的脸被AI技术“盗用”了，有不法分子通过AI换脸和声音克隆，把她的形象“移花接木”到带货主播身上，在直播间里卖起了货。事实上，温峥嵘并非个例。跳水冠军全红婵、央视主持人李梓萌等公众人物，也纷纷陷入“AI换脸带货”的陷阱。这些“主播”不仅形象逼真、声音相似，还利用公众对名人的信任，推销质量存疑的商品，严重损害消费者权益，扰乱了网络秩序。同时，利用“AI换脸”和“AI配音”进行诈骗的情况也时有发生。

山西省消费者协会表示，诈骗分子通常会通过以下几步完成诈骗。第一步，信息搜集，他们在社交媒体（如抖音、微信视频号、微博）上搜集消费者或其亲友公开发布的视频、语音，用于AI模型训练。第二步，制造假象，利用“AI换脸”和“AI配音”技术，合成一段足以以假乱真的视频或语音；第三步，情境设计，编造一个紧急、需要立刻转账的理由，降低消费者的警惕性，让消费者没有时间思考或核实；第四步，实施诈骗，通过视频通话或发送语音、视频片段的方式联系消费者，要求转账。

山西省消费者协会提示，消费者面对此类新型诈骗，关键在于建立“多重验证”意识，不单纯相信眼睛和耳朵。凡是通过视频、电话、短信等非见面方式要求转账汇款的，都要高度警惕。即使看到真人视频、听到熟悉的声音，也要保持怀疑。骗子会利用“紧急情况”制造恐慌，让消费者来不及思考。在未通过其他途径100%核实对方身份前，坚决不进行任何转账操作。这是守住钱袋子的最后一道，也是最关键的一道防线。同时，保护好个人及亲友的身份信息，谨慎在社交媒体上分享清晰的正面视频、含有声音的片段，特别是涉及身份证、银行卡等敏感信息的视频。设置好友权限，避免信息完全公开。

消费者一旦发现不幸被骗，一定要第一时间拨打110或前往就近派出所报案，向警方提供对方的账号、联系方式、聊天记录、转账凭证等证据。同时要致电银行客服或通过手机APP尝试冻结对方账户，争取止付，及时止损。（记者　郭卫艳）

来源：山西晚报