AI带货频频“翻车”，谁应负责？

本文来自微信公众号：透视商业，作者：赵无极，编辑：苏满，题图来自：AI生成

近期，演员温峥嵘自爆遭AI盗播，曾在凌晨三四点拍完戏后，刷到有直播间出现她的带货形象。

此前她也曾提到，她的形象曾出现在多个直播间，同一时段，妆发不同，不同的产品，说着同样的话。此类内容大多为AI合成的虚假直播。

她在直播间里质问“你是温峥嵘，那我是谁？”，很快就被拉黑。

对此，抖音集团副总裁李亮在社交平台发文称：经核查后发现，被曝光的“三个直播间同时开播”案例并非发生在抖音平台。经过与相关方联系，并根据投诉线索核查，发现平台上确实存在一些利用AI仿冒名人带货的短视频内容。这类AI侵权仿冒行为，严重损害了创作者、商家及平台在消费者心中的信誉，不符合平台的长期利益，平台非常重视并开展专项治理工作。

AI假冒名人带货，已经不是新鲜事，这只是AI带货的冰山一角。

随着“双十一”大幕拉开，从商家到平台都在用尽招数搞促销卖货，相比以往，今年最新颖的方式是用AI带货——对于商家而言，AI能够随意切换风格和背景场景，24小时连续直播，店铺运营效费比大幅提升。

也正因如此，目前已经开始形成一条AI卖货的产业链，AI卖货也正出现在越来越多的商家直播间中，成为今年“双十一”的电商潮流，但在AI带货大火的同时，却暴露售前货不对板、售后维权难的问题。

AI带货未来或许将成为直播间的标配，但这条标配的道路还不到火候，它缺乏的不是技术上的突破，而是对消费者的保护，这就需要电商平台、商家等参与者出台更多措施，保障消费者在售前售后的合法权益。

当AI带货出现在直播间

“一个月最少也要3万元成本，现在则只需要每月5000元的服务费，加上每小时10元的开播费用，还完成了AI直播的全自动化预警，只需要一支十几人的团队，即可完成1000多个直播间的盯播工作。”

在接受《天下网商》采访时，某科技公司创始人乐乘乐观地表示，凭借低成本、高效率，AI带货系统正在成为直播电商的标配。

透视商业在百度搜索关键词“AI无人直播系统”，发现这些卖AI无人直播系统的商家都在打着口号——不限流不封号、24小时直播、口型同步率高。

有的更是打着“重塑电商格局”的名号推广AI无人直播系统，称使用该系统，商家跨境直播订单增长3倍，人力成本直降83%，是突破流量困局的新引擎。

据透视商业了解，在效果上，采用AI技术的数字人几乎与真人几乎没有差别，尤其是在服装领域，很多电商直播间那些面容完美、身材比例无可挑剔的模特，并非真人，而是AI数字人。

这些数字人不仅能跟真人主播一样展示服装上身效果，还能自动解析弹幕，实时回答用户提问，甚至当出现价格高等偏负面的评论时，也会安抚用户情绪，并推送优惠信息。

而在很多农产品领域，如长成树状的葡萄架、结满枝头的柿子苹果，以前商家买道具，但是现在很多都是用AI技术来展现场景，通过违反常识的效果展现，来增加消费者对商品的购买欲，刺激销量。

从商家角度来说，只要商家在系统里输入商品的信息、卖点和促销力度，再根据商品搭配主播外形、卖货场景，就能实现自动回复、24小时直播。

而在《焦点访谈》关于AI带货的报道中，更是发现在场景设计、主播动作上，AI已经很逼真，如果不注意看，很难在手机屏幕上发现AI生成视频出现的穿模问题。

更为重要的是，AI带货的低成本。

据了解，AI带货主要有仅提供工具的SaaS（软件即服务）、制作完成内容后交付给商家的“端到端解决方案”、直接帮助商家卖货、从中抽取佣金的类MCN这三种模式。

以仅提供工具的SaaS模式为例，AI无人直播系统的销售人员向透视商业表示：980元一套软件，软件终身使用，包更新维护升级，软件赠送12000算力值，12000元的算力值价格为188元。

另据了解，该系统算力值是每小时60封顶。这意味着，188元至少能用AI直播200个小时。

画面效果好+AI带货系统成本低，很多商家开始在电商平台使用AI带货系统。

在AI无人直播系统的营销文案中，甚至表示：已经帮助上千家中小商家实现了 “24小时无人值守直播”，有卖零食的月销破10万，有做美妆的从 “没人看” 到 “日活千粉”。

但AI带货真的能改变如今的电商直播行业吗？

AI带货问题频出

AI带货可能会让商家降本增效，毕竟可以砍掉真人主播的人力成本、能够24小时不间断直播。据艾媒咨询调研数据显示：仅2023年9月，在对500家数字人行业客户的调研中，电商类占比高达22.7%。

图片来源：艾媒咨询

但是从目前来看，对于商家来说，很多AI带货系统更像是“饮鸩止渴”，盲目追求降本增效，导致系统出现虚假夸大、售后服务能力不足等问题。

例如前段时间“樟树港辣椒”在各个电商直播平台卖爆了，视频画面农民采摘的画面，显示辣椒树长到一人高，枝头长满了辣椒。

但《焦点访谈》在采访农业专家后发现，这些视频多数为AI带货系统生成，樟树港辣椒植株很矮小，亩产量也只有每亩两到三千斤。

类似的问题还有很多，在上观《民声现场 | 揭秘AI直播带货：完美模特，虚假互动以及注定不合身的衣服》的报道中，有多名消费者吐槽称：自己在直播间买的衣服实物与展示效果天差地别。

“面料软塌塌的，根本撑不起来，与直播间展示的版型笔挺大相径庭”，在济南日报的采访中，不少消费者表示，自己上当了。

是商家直播展示时的商品与发货的商品不一样吗？其实不是，是因为AI性能太过优秀，导致在直播过程中，商品展示效果往往存在过度美化失真问题。

工人日报在《AI主播也来带货？亮明身份留住消费者信任》报道中表示：“AI在制图过程中常常会“脑补”和优化细节，消费者实际收到的服装在颜色、面料、版型方面可能存在货不对板问题。另一方面，真人主播直播时，消费者能够通过其实时动作、近距离特写判断服装材质，观察上身效果，再决定是否下单，而AI主播显然让直播效果大打折扣。”

对此透视商业不得不质疑：这些被AI直播系统生成的视频是否为虚假视频？那么商家用这些虚假视频来卖货对消费者是否构成欺诈？

其实不只是AI带货在售前的夸大宣传，更大的问题在于消费者维权无路。

目前很多商家不会在AI直播带货上标注AI ，像衣服等商品，用户遇到假货或是货不对板等问题能够退货，但像装修或是母婴类商品出现问题，如果造成人身体健康上的损失，那么消费者应该找谁来维权？

是提供AI带货的技术公司，还是品牌方，或是连带平台监管失察的责任？

AI的尽头不应该是带货

对于商家而言，AI带货就像工厂里面的流水线，能够不间断生产直播。因此很多商家都采用了AI无人直播。

AI带货能够解决中小商家低成本运营的问题，也能够解决大模型相关公司商业化难的问题，甚至对于平台来说，还能够解决优质主播少、风格固定的问题，但是问题是消费者如何不被AI幻觉涌向购买决策？他们如何维护自身的利益？

这正是因为这一点，如今对于这些平台来说，他们对AI带货有着不同的态度。

腾讯、抖音等对AI直播带货严防死守：

2024年腾讯视频号修订的《视频号橱窗达人“发布低质量内容”实施细则》中将使用AI数字人进行直播的行为明确界定为违规。

2023年、2024年，抖音多次发文倡议商家不要使用完全由AI驱动的数字人主播，并陆续进行了多次大规模整治，封禁了一大批相关账号。

图片来源：抖音副总裁李亮微博

快手则在2024年6月取消了对自己旗下“女娲”数字人产品的流量倾斜，同时加强了对AI生成内容的监管。

而淘宝、京东等平台则对AI带货较为宽容。据京东数据：其AI数字人已服务超3万商家，提供100余款主播形象，为中小商家及非黄金时段的服务，2025年618期间已有超过1.7万家品牌商家采用京东的AI数字人直播服务，甚至就连刘强东都上线数字人直播卖货。

对AI带货，白天淘宝仅维持数十个公域流量名额，但在晚间对通过审核的AI直播间开放公域流量，每周视运营水平刷新一次。

对于平台、商家来说，AI带货在技术上已经很成熟，数字人虽然会有画面上不符合物理规律的穿帮问题，但如果不盯着画面看，对于买货的消费者来说并没有什么问题。

问题的核心并非技术，而是技术太过美化，让商品失真，甚至是向消费者传达错误的商品信息，对于消费者而言，他们应该如何维护自己的利益？

可以说，现在的AI带货，技术上已经成熟，但在消费者保护等方面需要继续完善，AI代替人工可以说还要再等等。

本文来自微信公众号：透视商业，作者：透视商业

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4802063.html?f=wyxwapp