2025年10月,
![]()
事实真相是,
不法分子利用AI技术伪造其形象进行带货直播,
推销所谓“高端鱼油”产品。
这起事件不仅暴露了技术滥用的风险,
更触发了国家对AI监管的快速响应。
![]()
李梓萌这名字,
新闻联播里天天见,
大家看惯了她那个专业又稳重的样子,
有一年她上镜次数特别多,
还破了纪录,
遇到突发新闻,
![]()
八分钟背下来两千字的稿子,
直播的时候一点不乱,
这事在圈子里都传开了,
这本事,
别人真学不来,
那顶假发她戴了十几年,
也是为了节目效果,
![]()
观众对她的那种信赖,
是很深的。
这种信任,
后来被人拿去干坏事了,
前阵子就有人举报,
说直播间里看到李梓萌在推销一种深海鱼油,
广告里说能治头晕手麻,
有人就信了,
![]()
花钱买了,
结果一查才发现,
这东西的执行标准就是普通糖果,
压根没啥保健作用,
直播里那个人,
也不是李梓萌本人,
全是AI合成的,
换了脸,
声音也是模仿的,
![]()
里根本看不出破绽,
就是冲着李梓萌的名气来的,
背后是个团伙,
专门骗中老年人,
北京、河南、四川好几个省份都有人上当,
涉案金额几百万。
![]()
这种事也不是头一回了,
现在越来越多,
奥运冠军全红婵的声音被拿去卖土鸡蛋,
演员靳东的形象被盗用搞全天候直播带货,
连医学专家张文宏的脸,
也被AI给伪造了,
AI诈骗都快成一条黑色产业链了,
![]()
谁有公信力,
谁就容易被盯上,
社会上好多领域都成了他们的目标。
国家这边,
反应也快,
市场监管部门和公安马上成立了专案组,
把涉案的企业给查了,
行政处罚也下来了,
![]()
针对AI生成合成内容,
马上就有新规定要出台,
以后所有AI做的东西,
都得清清楚楚标出来,
规定越来越细,
就是想从根子上把这些歪门邪道给堵住。
![]()
听那些受害者说,
很多人就是信央视的主持人,
才去买的产品,
根本就没想过世界上还有AI造假这种事,
有专家也说了,
现在的AI伪造技术水平太高,
普通人光用眼睛看,
根本分不出来,
必须技术和法律手段一起上,
才能有效应对。
![]()
把这事放大了看,
技术本来是好东西,
是来帮忙的,
现在被一小撮人拿去骗人,
整个社会的信任体系都被搞坏了,
每个人的权益都可能受影响,
那些平台也得负起责任,
![]()
开发一些检测工具,
专门识别这些伪造的内容,
不能光让用户自己去分辨真假。
事情出来以后,
李梓萌的团队也发了声明,
提醒大家注意辨别,
![]()
很多地方也开始搞数字素养教育,
教普通人怎么识别AI伪造的东西,
这些措施慢慢看到点效果,
信任的防线也在一点点重新建起来。
那个诈骗团伙被查了,
事情算告一段落,
可整个社会对这事的思考还没停,
![]()
技术发展太快,
法律法规有点跟不上,
怎么在创新和监管之间找个平衡点,
李梓萌这事就像敲了个警钟,
让大家都在反思技术伦理的问题。
![]()
在这个数字时代,
信任变得特别脆弱,
也特别珍贵,
国家出手整治AI诈骗,
不只是在保护个别受害者,
更是在守护整个社会的诚信底线,
技术进步不能以牺牲信任为代价,
法律、技术、教育这几方面必须一起发力,
这个防线才能筑得牢靠。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.