广西
分享至
近日，演员温峥嵘自曝遭AI盗播，有超过30个直播间同时盗用其AI合成形象直播带货。这些“数字分身”身着不同服装，话术高度雷同。她本人进入假直播间质问：“你是温峥嵘，那我是谁？”，竟被对方秒速拉黑。
近两年，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。对此，专家表示，治理的核心在于全面落实内容标识制度，需严格区分AI技术的合法应用与非法滥用。
生成式人工智能的多模态能力，可以让用户轻易给视频中的人物换脸换声，甚至直接生成完全虚构的视频，给不法分子带来可乘之机。近期就发生了多起AI换脸换声，生成虚假广告的案件。比如，有的伪造奥运冠军推荐土鸡蛋，还有的伪造医生形象推销保健品，严重误导公众。
业内人士告诉记者，随着AI换声换脸技术的越来越成熟，已经足以达到以假乱真的地步。分辨一段视频或者声音是否是经过深度合成，最好的办法还是通过AI去识别。即用AI去识别AI。
要知道9月已施行《人工智能生成合成内容标识办法》，但违规直播间要么不标注，要么遮挡水印逃避监管，AI“分身”营销乱象屡禁不止！
专家呼吁必须落实内容标识制度，平台也得扛起监管责任，别让技术滥用坑了艺人又骗了消费者！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
