短视频平台上,一批名为“小海”的苦命少年批量涌现。他们自称单亲、缺爱,跟着父亲艰难过活,对着镜头一口一个“姨姨妈妈”,以虚构的苦情身世博取中老年群体的同情与信任。事实上,这些少年皆为AI生成的数字人,身份、身世乃至眼泪,全系虚构,而视频下方挂载的商品链接,却是真实可购的。
今年5月,一位79岁的老人因轻信“小海”的邀约,独自乘车欲赴山西运城“探望”,神情焦急却说不清去向,幸被乘警发现并联系家人劝返。此类情形并非孤例。随着AI技术普及,以虚构人设博取同情、借流量高价带货的套路,正精准地瞄准银发群体。
正值敬老月,老年人权益保障是社会关注焦点。从法律层面审视“AI小海”现象,既是为受损老人指明救济路径,也是为相关责任方划定行为边界。
一、如何定性
判断此类行为是否构成诈骗罪,需回归构成要件:行为人虚构事实或隐瞒真相,被害人因此陷入错误认识并处分财产,行为人据此取得财物、被害人遭受损失,且主观上须具有非法占有目的。区分“多赚一笔”与“无意交付对价”,是此类案件的难点所在。
从现有报道看,“小海”所售多为阿胶等真实商品,挂载正规链接,老人收货属实,仅价格偏高。此类情形,司法实践通常不作诈骗处理,而指向民事欺诈与虚假宣传:依据《民法典》第一百四十八条,老人可请求撤销交易、退货退款;依据《消费者权益保护法》第五十五条,可主张“退一赔三”;情节严重者,或触及《刑法》第二百二十二条虚假广告罪。
反之,若所售为“三无”产品、以次充好,成本与售价严重背离,则可能越过虚假宣传的界限,涉嫌诈骗罪或生产、销售伪劣产品罪;至于收款后不发货、随即注销账号者,则系典型诈骗。故对此类行为,须结合销售金额、商品实际价值与后续行为综合认定——当前更宜表述为涉嫌欺诈,是否上升为刑事犯罪,尚待司法认定。
即便不涉刑事,行政与民事责任亦无可回避。以“助农”“可怜孩子”等虚构情节诱导下单,属于虚假或引人误解的商业宣传,违反《广告法》第四条、《消费者权益保护法》第二十条,市场监管部门可依法查处。且依据《最高人民法院、最高人民检察院关于办理诈骗刑事案件具体应用法律若干问题的解释》第二条,诈骗老年人财物,可酌情从严惩处。
二、谁负责任
运营者是第一责任人。谁虚构身份、谁编造身世、谁将流量导向商品链接,谁即须承担首要责任。
直播间运营者亦难辞其咎。依据《最高人民法院关于审理网络消费纠纷案件适用法律若干问题的规定(一)》第十二条,直播间运营者不能证明已标明并非销售者并标明实际销售者的,消费者可主张其承担销售者责任。虚拟人设,不足以成为免责理由。
提供教程与话术者同样处于规制范围。明知他人用于实施诈骗,仍提供技术支持、广告推广、支付结算,情节严重的可构成帮助信息网络犯罪活动罪;事前通谋、参与分成者,按诈骗罪共犯论处。《人工智能生成合成内容标识办法》亦明确禁止为他人恶意删除、篡改、伪造、隐匿标识提供工具或服务,出售“去水印”工具者直接受其约束。
平台责任不容回避。相同话术、雷同面孔、高频挂载商品链接,此类异常数据平台并非不可察知。《电子商务法》第三十八条明确,平台知道或者应当知道平台内经营者侵害消费者合法权益而未采取必要措施的,承担连带责任;《消费者权益保护法》第四十四条则规定,平台不能提供经营者真实名称、地址和有效联系方式的,消费者可向平台主张赔偿。给视频标注“AI生成”,绝非治理终点。
供货方同样牵涉其中。明知商品用于虚假宣传仍以高额返佣供货,或将作为虚假广告、虚假宣传的连带责任人被追责。
三、如何防范
识别是第一步。AI合成影像并非无迹可循:口型与声音错位、眼神失焦、指节耳廓等细节失真、同一形象反复更名出现、多段视频文案高度雷同,均属破绽。但更深层的问题是,部分老人或不识字或未曾留意角落的“AI生成”标识,甚至将“AI生成”误读为“事件真实、仅以AI演绎”。将责任完全归咎于老人防范意识不足,既不公允,也无助于治理。
对老年人而言,一条底线更为切实:凡网上“卖惨”“认亲”并要求下单者,无论屏幕中是人是AI,一律不轻信、不转账。对家属而言,多通电话、多回探视,胜过事后补救;技术层面,可为老人开启平台“长辈模式”、设置支付限额、关闭免密支付、绑定亲情账户,提前构筑防线。
一旦受损,存证为先。账号可能随时注销、视频可能随时删除,订单号、支付凭证、商品链接、视频录屏及账号主页截图须第一时间留存。继而可向平台投诉,或拨打12315、12377反映举报;涉嫌诈骗的,及时拨打110,接获诈骗电话或短信的可拨打96110。
守护老年人的“钱袋子”,既要靠依法打击,也要靠家庭与社会协同发力。老人千里迢迢登车,所求非一盒阿胶,而是屏幕那端一声真切的呼唤。让这份期待,落在真实的陪伴而非虚构的人设之上,是法律之外更值得深思的一课。
来源:通化市东昌区人民法院
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.