网易首页 > 网易号 > 正文 申请入驻

AI 虚构人设带货:标识不是“护身符”|校媒观澜

0
分享至

北京师范大学 潘子珩

近日,央视记者调查发现,短视频平台上出现了一批由AI生成的“交警”“僧人”带货账号。“交警”站在事故车旁讲解如何自救,随后拿出一款“破窗神器”;“僧人”盘腿谈修行,账号橱窗里却在销售养生品和经书。中国信通院对其中一段视频进行检测,结果显示其AI生成概率为96%。北京互联网法院副院长仪军介绍,AI换脸、换声软件在一些黑灰产市场里十几元就能买到,利用AI捏造人设、冒用权威形象牟利的民事案件逐年增多。


2025年9月起施行的《人工智能生成合成内容标识办法》要求AI生成内容添加标识。添加标识有助于观众识别内容来源,但无法证明视频中的“交警”“僧人”具有相应身份,也不能消除制服、事故现场等画面元素造成的误导。报道中的一些视频还存在标识不醒目的问题——字号小、颜色浅,观众未必能够注意到。AI内容标识不能代替身份和资质审核,标注也不等于治理。

运营者选择交警、僧人等形象,是为了利用公众对特定身份的信任。交警与交通安全、执法权威相关,部分消费者也可能因僧人形象降低警惕。过去冒充警察,需要真人、制服和拍摄场景;如今,运营者输入几句提示词就能生成类似视频,省去了真人出镜和场景布置的成本,也便于批量发布。北京互联网法院法官封瑜在一篇报道里表示,这类内容对消费者的知情和选择造成了“不正当的干扰和误导”,青少年和老年人更容易受骗。

仅封禁账号难以阻止同类内容再次出现。商家、制作方和代运营机构如果没有被追查,运营者仍可能注册新账号继续发布。《中华人民共和国广告法》禁止广告使用或变相使用国家机关工作人员的名义、形象;《网络主播行为规范》要求医疗、财经、法律等专业领域主播取得执业资质,AI合成的虚拟主播参照执行。平台发现冒用职业或宗教身份带货的内容后,应下架视频,暂缓结算相关收益并保存交易、投流记录。商家、制作方和代运营机构明知或参与造假的,应依法追责。

平台应在账号开通商品功能前完成身份核验。使用警察、医生、僧人等身份进行商业推广的账号,应提供可核验的身份证明;涉及执业资质的,还需提交相应材料。平台还应核对账号主体与商品经营者的关系,并将认证信息与商品和结算账户关联。无法证明身份的账号,不应以相关身份推广商品。

AI降低了冒用公共身份的成本,也伤害了公众信任。用AI虚构特定身份带货,不仅会误导当下的消费决策,更会埋下长久的信任隐患——当虚假身份泛滥,公众面对真实信息时,也不得不多一分审慎与猜忌。公共信任来之不易,不该被当作随意透支的营销资源。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
CBA要提前大结局,NBA超级外援加入黑马球队,挑翻上海北京

CBA要提前大结局,NBA超级外援加入黑马球队,挑翻上海北京

宗介说体育
2026-11-18 15:02:35
福建省代省长郭宁宁主持召开全省食品安全暨“校园餐”整治专题会议:要保持高压严打态势,坚持执法必严、违法必究,重拳惩治违法违规行为

福建省代省长郭宁宁主持召开全省食品安全暨“校园餐”整治专题会议:要保持高压严打态势,坚持执法必严、违法必究,重拳惩治违法违规行为

新京报政事儿
2026-11-18 10:12:02
中日斗法:遍布我国的日本学校,被组成困龙局,749局高人一招化解

中日斗法:遍布我国的日本学校,被组成困龙局,749局高人一招化解

天字号野史
2024-11-29 11:55:59
央视王炸剧来了!于和伟白敬亭主演,江疏影朱亚文助阵,夯爆了

央视王炸剧来了!于和伟白敬亭主演,江疏影朱亚文助阵,夯爆了

喜欢历史的阿繁
2026-11-18 04:23:34
收视率几乎为0,县城电视台为什么还没关?

收视率几乎为0,县城电视台为什么还没关?

罗sir财话
2026-11-15 12:56:18
国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

扶苏聊历史
2026-10-09 10:45:34
FIFA最新排名:西班牙居首,摩洛哥升至第五,国足排名第95

FIFA最新排名:西班牙居首,摩洛哥升至第五,国足排名第95

懂球帝
2026-11-18 18:30:08
最新:乌克兰重创克里米亚大桥以东两大炼油厂!

最新:乌克兰重创克里米亚大桥以东两大炼油厂!

项鹏飞
2026-11-18 20:22:28
从全美五星到四年四队!格雷姆斯47分之夜,拯救湖人也证明了自己

从全美五星到四年四队!格雷姆斯47分之夜,拯救湖人也证明了自己

林小湜体育频道
2026-11-18 16:21:42
1927年4月,邓颖超在广州产下一子,由于这个孩子生下来体重太大,近十斤重,超过了正常标准,导致无法正常顺产出来

1927年4月,邓颖超在广州产下一子,由于这个孩子生下来体重太大,近十斤重,超过了正常标准,导致无法正常顺产出来

回京历史梦
2026-11-13 10:28:05
没想到,《多喜一家人》播出仅1天,赵丽颖反被推上风口浪尖

没想到,《多喜一家人》播出仅1天,赵丽颖反被推上风口浪尖

杜鱂手工制作
2026-11-18 17:54:59
普京到访的深圳北理莫斯科大学,由俄罗斯最好的大学和985北理工在深圳合办

普京到访的深圳北理莫斯科大学,由俄罗斯最好的大学和985北理工在深圳合办

狐狸先森讲升学规划
2026-11-18 20:10:22
身体2处“发痒”,或说明“血糖”已超标,不要认为是皮肤病

身体2处“发痒”,或说明“血糖”已超标,不要认为是皮肤病

垚垚分享健康
2026-11-18 19:06:25
真是奇怪,国家为何要铁了心硬要给中小学放春秋假?这盘棋很大

真是奇怪,国家为何要铁了心硬要给中小学放春秋假?这盘棋很大

青史卷中人
2026-11-18 01:22:22
Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

韩小娱
2026-11-16 12:15:37
疯狂?丹麦读秒从晋级到出局!积9分仍恐降级:携0分队去踢附加赛

疯狂?丹麦读秒从晋级到出局!积9分仍恐降级:携0分队去踢附加赛

我爱英超
2026-11-18 07:01:23
金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

金正恩访问越南,乘专列耗时65时40分,为什么不坐飞机?大有讲究

文史达观
2025-07-05 06:45:03
事态彻底升级了!比黄仁勋的事更大:美国与8个盟友签约,联手针对中国AI,引发舆论热议!

事态彻底升级了!比黄仁勋的事更大:美国与8个盟友签约,联手针对中国AI,引发舆论热议!

林杰论事
2026-11-18 01:33:26
CBA杯-三国手缺席北京轻取江苏 沃特斯22+6陈盈骏14分

CBA杯-三国手缺席北京轻取江苏 沃特斯22+6陈盈骏14分

醉卧浮生
2026-11-18 21:39:29
65岁黄宏近况曝光!曾24次登上春晚舞台,如今与妻女共享天伦之乐

65岁黄宏近况曝光!曾24次登上春晚舞台,如今与妻女共享天伦之乐

代军哥哥谈娱乐
2026-02-26 09:07:11
2026-11-18 23:11:00
中国青年报 incentive-icons
中国青年报
有重大影响力的全国性综合日报
169552文章数 595380关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
艺术
旅游
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版