网易首页 > 网易号 > 正文 申请入驻

红星快评|防止被“AI小海”围猎,不能只靠老人“多长个心眼”

0
分享至

我们已置身一个AI的世界。

当AI生成的视频越来越逼真,对还不太了解这一技术发展的人来说,也暗含风险。据央视新闻报道,日前,一批名叫“小海”的苦命男孩在短视频平台上批量涌现。他们对着镜头一口一个“姨姨妈妈”,哭诉着窘迫的身世,让不少老人心疼落泪,纷纷下单买货帮扶。这些“小海”们其实都是AI数字人。有一位79岁老人深信不疑,差点跨越几千公里去探望并不存在的“小海”。


据悉,网上几块钱就能买到全套AI数字人生成教程,各种营销话术模板更是比比皆是。同样的文案,换一张脸、换一个声音,就能批量生成成百上千个“小海”。此外,演员吴越和温峥嵘等名人被AI盗脸用以直播带货的案例,也先后出现。

技术无罪,但滥用新技术虚构故事达到带货目的则是不折不扣的作恶。防被AI围猎,不能只靠老人“多长个心眼”,平台更要给技术上牢安全锁、拧紧安全阀,并加大对作恶者的惩戒力度。

现实中,AI生成视频是有“内容由AI生成”这类标识的,但标识义务与侵权责任是两套逻辑。履行标识义务,不能想当然地排除侵权责任。更不等于挂AI标签,就能明目张胆地行骗。

“AI小海”的涌现,说明此前平台长期遵循的“通知——删除”事后补救规则,已跟不上AI技术和侵权案例发展态势。杭州有案例显示,AI生成点头、摇头、眨眼等动态视频已能突破人脸核验系统——AI换脸滥用正在侵蚀社会信任秩序。事后删除无异于火灾之后才装灭火器。

电子商务法明确规定,平台知道或应当知道经营者侵害消费者权益而未采取必要措施的,依法承担连带责任。平台不能被动坐等一个个受害者被媒体报道出来,才后知后觉,封号了事,而必须压实前置审核责任。比如,针对“苦情求助+带货”这类高风险账号,要强化技术识别,对批量同质化“AI小海”类人设矩阵及时限流管控;面向老年消费场景,增设风险弹窗、亲属联动提醒,筑牢涉老消费防护网。

毕竟,手握流量分配、账号审核、算法推荐的权力,平台理应承担匹配的反AI侵权责任。探索人脸授权信息核验,直播存证、公众人物数字人授权备案机制,主动核对人物与推荐商品的授权关系,留存直播录像,让每一条带货视频有源可溯,让每一条授权证明可视化、可核查。

红星新闻评论员 李晓亮

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
都在救市,明天大A能得救吗?

都在救市,明天大A能得救吗?

海螺复盘
2026-11-22 21:37:38
不查不知道! 原来花1.3亿买310台坦克送员工的于东来, 私下竟这么壕

不查不知道! 原来花1.3亿买310台坦克送员工的于东来, 私下竟这么壕

生活新鲜市
2026-11-22 14:43:48
搞不好会烂尾!《持械入宋》的问题来了,十二季上线又延迟,到底被什么卡住了?

搞不好会烂尾!《持械入宋》的问题来了,十二季上线又延迟,到底被什么卡住了?

姜糖先生
2026-11-22 15:59:24
他才是国足最好归化,父母都是中国人,如今成国足名副其实"硬汉"

他才是国足最好归化,父母都是中国人,如今成国足名副其实"硬汉"

扒瓜
2026-11-22 12:15:13
中纪委重磅出手!严查这些歪风和腐败问题!有些人要瑟瑟发抖了!

中纪委重磅出手!严查这些歪风和腐败问题!有些人要瑟瑟发抖了!

职场资深秘书
2026-11-22 21:54:43
三安光电:副董事长兼总经理林科闯辞职

三安光电:副董事长兼总经理林科闯辞职

财联社
2026-11-22 16:08:03
郭碧婷曾自嘲生完二胎人废了,劝人慎生,向太想添孙不敢开口

郭碧婷曾自嘲生完二胎人废了,劝人慎生,向太想添孙不敢开口

扒虾侃娱
2026-11-22 22:43:19
《GTA6》双主角谁更受欢迎:结果出乎意料!

《GTA6》双主角谁更受欢迎:结果出乎意料!

游民星空
2026-11-22 23:28:23
普京终于摊牌:俄乌战争最大搅局者不是美国,而是这个跟俄罗斯斗了200年的老冤家

普京终于摊牌:俄乌战争最大搅局者不是美国,而是这个跟俄罗斯斗了200年的老冤家

z千年历史老号
2026-09-23 17:17:11
“老人味”祸根被揪出!医生提醒:50岁后要少碰,老了或也没味

“老人味”祸根被揪出!医生提醒:50岁后要少碰,老了或也没味

观星赏月
2026-11-15 16:17:46
亚洲杯夺冠概率出炉:日本33.2%领跑国足仅0.1% 卫冕冠军0.7%

亚洲杯夺冠概率出炉:日本33.2%领跑国足仅0.1% 卫冕冠军0.7%

新英体育
2026-11-22 10:14:48
天生要强的3生肖:年底开始运势翻盘,财运一路高歌,注定钱财大旺,看看有没有你​

天生要强的3生肖:年底开始运势翻盘,财运一路高歌,注定钱财大旺,看看有没有你​

人閒情事
2026-11-22 20:21:31
两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

蝴蝶花雨话教育
2026-10-29 00:05:14
蓉城候选教练再多一位大牌!川媒:海港冠军教练入围

蓉城候选教练再多一位大牌!川媒:海港冠军教练入围

建哥说体育
2026-11-22 11:40:01
泽连斯基明确表示,愿意为乌克兰牺牲生命,且无所畏惧

泽连斯基明确表示,愿意为乌克兰牺牲生命,且无所畏惧

山河路口
2026-11-20 20:36:06
被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

爆炸营养彭鑫蕊
2026-11-15 13:23:18
5-1!贵州足球时隔5年重返中甲 定南赣联2人染红+9年后再跌回中乙

5-1!贵州足球时隔5年重返中甲 定南赣联2人染红+9年后再跌回中乙

我爱英超
2026-11-22 17:59:52
全民化债的时代来了

全民化债的时代来了

职场资深秘书
2026-11-22 21:31:21
男子自驾游至海南遇美女搭车,同行三天后,他才知道自己逃过死劫

男子自驾游至海南遇美女搭车,同行三天后,他才知道自己逃过死劫

林林故事揭秘
2025-04-10 14:49:38
紧身短裤,是跑步最尴尬的装备

紧身短裤,是跑步最尴尬的装备

跑者排球视角
2026-11-20 06:59:54
2026-11-22 23:52:49
红星新闻 incentive-icons
红星新闻
成都传媒集团旗下的新媒体平台
217987文章数 1348372关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

旅游
房产
家居
艺术
公开课

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

世界十大著名宫殿盘点:中国独占两席

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版