北京
来源：央视新闻微信公众号
你是不是也经常刷到这样的视频？
貌似“交警”的人，在“车祸现场”煞有介事地讲解安全知识，话锋一转却开始兜售“破窗神器”；貌似“和尚”“师太”的人，张口“修行”、闭口“感悟”，满屏都是人生哲理，账号却推销着养生品和经书。
他们看似某领域的专业人士，但细一看，却没有任何标识或头衔，评论区里还时常出现对视频真实性的怀疑。
为验明真伪，记者带着几段视频来到中国信通院。
专家把视频导入鉴别平台，该平台拥有多种技术手段鉴别能力，可实现对视频、图片、文本的交叉鉴伪。几分钟后，结果出现，AI生成的概率高达96%。
中国信通院人工智能研究所安全治理部主任石霖用两个不同的鉴别引擎判别同一段视频，显示结果均为AI生成。他表示，视频中的主角过于完美，面部几乎没有瑕疵；重复的肢体动作过多；牙齿过于整洁，仔细观察还会发现说话时看不到舌头。
视频利用网友对专业人设的信任
真实目的却是卖货
针对另一个所谓“和尚”的视频，也得到了同样的结果。这些未标注AI生成的视频，捏造“警察”“僧人”等形象，利用大家对专业人设的信任，真实目的都是卖货。
记者还发现，除了用AI捏造无中生有的人设，甚至还有人在盗用真实的专家形象。北京眼科专家赵阳几个月前收到一位患者转来的视频，并询问他商品是否真对眼睛有帮助，而咨询的这款营养品正是视频里的赵阳推荐的。
赵阳把商家告上了法庭。审理中才得知：商家委托了一家视频制作公司，用AI生成销售商品的音频，借他眼科专家的身份为产品背书。
赵阳表示，部分营养元素具备医嘱属性，不同年龄段对应的补充剂量存在差异。普通民众如果仅依据专家推荐的网络视频就盲目选购相关产品，不一定能发挥产品的最佳效用，甚至还可能产生负面影响。
负责审理案件的北京互联网法院指出，近年来，随着人工智能技术的发展，AI捏造虚假人设、盗用权威形象用来牟利的案件越来越多。
北京互联网法院副院长仪军：这类案件在民事案件中，呈逐年上升趋势。比如AI换脸、AI换声的软件，在黑色市场里，基本十几块钱就能买到，造假成本大大降低，这类AI造假的情形，也从以往的单纯互联网行业转向互联网加传统行业。
2025年，国家出台规定，明确要求AI生成内容必须添加标识。但是记者发现：视频平台上依然有不少AI生成的视频未做标注。有些虽做了标注，却模糊不清。
这类视频在网上还有很多，它们大多以卖货为目的，常伴随产品质量争议，卖日用百货是重灾区。
例如一款推荐清洁剂的视频，AI标识字号小、颜色浅，隐藏在画面下方很容易被忽略。而在视频下方的评论里，出现了“骗人的、我买过了”以及“夸张”“不好用”等字眼。
对此，北京互联网法院综合审判二庭法官封瑜表示，对于消费者来说，他们的知情权与选择权受到不正当干扰、误导，从而遭遇欺诈性消费。就当前技术发展现状来看，各年龄段人群都存在遭遇此类欺诈的可能。其中青少年认知与社会经验相对匮乏，老年人同样是受侵害的重点群体。
三招防骗技巧要记牢
面对这种情况，大家一定要多加甄别，可以通过“眼、耳、手”防骗三招，辨别AI，避免上当。
“眼”——先找AI标识，一般标注在角落。如果没有，就看细节，比如皮肤纹理是否过于光滑无瑕疵、背景边缘是否模糊变形、画面颜色是否过于鲜艳等。
“耳”——只要在视频或通话中听到“转账”“投资”“购买”这类关键词，别急着操作，先通过官方渠道确认。对方推销的商品也要多留个心眼，谨防货不对板、以次充好。
“手”——打开国家反诈中心App，找到“AI内容鉴定”功能，一键上传，即可进行图像、视频、文本和音频的多维检测。
（总台央视记者 李斌 丁苗 徐鹏翔 张志 张明珠）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
