河北
央视财经截图
评论员 任凯
以前人们常讲“耳听为虚，眼见为实”，问题是随着AI克隆技术发展，现在“眼见也非实”“有图未必有真相”。
据央视财经报道，近日，北京市市场监管部门查处了首例利用 AI 技术进行虚假广告宣传的案件。北京某公司通过视频账号宣传所销售的 " 深海多烯鱼油 " 能够治疗多种疾病，直播中还出现了中央广播电视总台主持人李梓萌的形象。经查，该公司销售的鱼油产品，实际执行标准为糖果，属于普通食品，不具备疾病治疗功能。经鉴定，视频中的主持人形象完全是利用 AI 技术伪造生成。
AI造假的案例有很多，仿冒名人、网红、奥运冠军甚至行业专家等公众人物，借助公众人物的知名度，通过带货牟利。全红婵、韦东奕、张文宏等都遭遇过AI造假，更有甚者，一些不法分子不光揪着活人不放，就连已故的人也不放过，前几天，就有媒体曝光，已故“茶界泰斗”张天福被“复活”，现身短视频为茶企代言、发声。连逝去之人也被“复活”“被代言”“被消费”，只能说这些幕后不法经营者利欲熏心、毫无底线。AI造假不仅侵犯了当事人姓名权、肖像权、名誉权，也侵犯了消费者合法权益，在一定程度上更是冲击了社会伦理。
在AI技术并不成熟，并未大规模进入人们日常生活的时候，一些仿冒名人、明星的虚假广告宣传也时常出现，但拙劣的造假技术消费者能一眼识破，“一眼假”笑笑就罢了。随着AI深度伪造技术成熟并大规模商业应用，时常令人发出感慨，“像真的一样”。“克隆”声音、AI换脸、深度伪造，AI造假愈发精密，正如专家所言，算法越来越先进，高性能设备和高精度模型的加持下，AI仿冒从前几年的“一眼假”已进化到现在的“真假难辨”。
肆无忌惮地用AI技术生成他人的形象，并用来短视频带货等，已经超越了“蹭流量”的范畴，牵涉法律、经济、道德伦理等更多维度的权责关系。姓名权、肖像权、名誉权、知情权等自不待言，这些都受到法律保护，一旦侵犯，必然构成侵权。如果放任AI仿冒无底线无下限，轻则误导社会认知、冒犯人类情感，重则挑战法律红线、冲击社会伦理。
今年9月1日，《人工智能生成合成内容标识办法》正式施行，该办法规定，利用AI技术生成合成的图片、视频等内容要添加显式标识，所有AI内容必须“亮明身份”。面对AI仿冒乱象，不是说无法可依，而是有法必依、执法必严。
AI仿冒乱象层出不穷，很大一个因素是平台方失管失察。平台是内容生产和传播的第一道“把关人”，也必然是治理AI乱象的“第一防线”。压实平台主体责任，不能只是轻飘飘的一句话，添加显式标识、尽到提醒责任只是平台的第一步。后续还需要建立对AI仿冒内容的快速响应和处置机制，对相关账号第一时间发现、第一时间处置，把对消费者造成的损失降到最低，并依法向监管部门报告、协查源头，让不法分子付出应有代价。“魔高一尺道高一丈”，面对AI造假技术迭代，平台方应当做到“守土有责、有土尽责”。
新一轮科技变革方兴未艾，平台是集合了信息流、技术流、人才流于一体的复合型科技企业，对于AI仿冒等乱象，应该更敏锐，也更有前瞻性，相关治理措施理应跑到监管前面，被动等待监管跟进和事后追责，说到底，还是一种追逐利益、赚快钱的短视思维在作祟，把企业的社会责任抛到了九霄云外。
在“李梓萌遭AI仿冒带货”案中，北京市场监管部门首次依据《广告法》作出行政处罚。这次处罚释放了一个信号，AI合成内容用于误导消费者，技术不再是免责挡箭牌，平台与商家都可能面临行政处罚甚至民事赔偿。技术为人服务，面对AI迅猛发展，企业有责任坚守对技术伦理的思考，让AI是更好服务于消费者，还是成为骗子的工具。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
