近日,《法治日报》记者调查发现,“外国山海经”“AI山海经”等AI魔改(指利用AI技术对原作品进行大幅或颠覆性改编的行为)内容在网络上迅速走红,甚至渗透到低龄群体中。
夹杂暴力、血腥内容
“外国山海经”爆火小学生圈
“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)、“Lirili larlla”(音同“哩哩哩辣力辣”)……这些近来经常出现在小学生们口中,宛如神秘咒语的词汇,实则是几幅AI生成的动画形象的名字,比如上述两个词汇分别对应“木棒人”“仙人掌象”。
诸如此类由AI拼接而成的形象还有很多,它们被孩子们统称为“外国山海经”或者“AI山海经”。
![]()
“外国山海经”/图据潮新闻
有家长发现,“孩子仿佛‘着了魔’,口中时不时蹦出来这些词语,跟他一起玩耍的小朋友们也都如此。”
这些将毫不相干元素强行拼凑出的怪异形象,为何能在孩子们的圈子里流行起来?”上述家长百思不得其解,而且,这“外国山海经”不仅造型诡异,更夹杂不少暴力、血腥词汇和内容,“孩子或许并不理解其中的含义,但会模仿学习,很容易对他们产生负面影响”。
更让部分家长忧心的是,这孩子第一次接触“山海经”的概念,竟然是通过这些外来的且由AI生成的产物。甚至还有孩子认为,“山海经就是国外的,中国的山海经一点儿也不好看”。
“外国山海经”的来历也很可疑。有记者发现,由于“外国山海经”等AI图片和视频制作流程十分简单,几乎任何用户都能在多款常见的AI视频网站上,通过向AI发送基础的人物形象图片、文字描述以及有关指令,就能快速生成一段动态视频,还可加入音效和背景音乐。
奥特曼怀孕、卡通人物挖眼珠子吃
“邪典视频”卷土重来
最近广东一家长发现,自己3岁的女儿在短视频平台上刷视频或者动画片时,频繁被推送动画风格的“邪典视频”。
“这些视频大多是卡通或3D风格,很吸引小孩子,但是却暗藏着很多令人不适的画面。”该家长举例,视频中存在残害肢体、角色从高处坠落等血腥场景,甚至有“把自己的眼珠子挖出吃掉”这样的可怕画面。
浙江也有家长发现,孩子在看完正版动画片后,平台会自动弹出一批颜色鲜艳却毫无营养的衍生视频,其中不乏“奥特曼怀孕”“小猪佩奇打骷髅”等暴力恶搞内容。
然而,当上述家长试图为孩子屏蔽“邪典视频”内容时,却发现,无论是投诉视频、点击“不喜欢”,相关内容仍会被持续推送给孩子。
有一名曾在某视频公司任职的受访者向记者透露,其前公司旗下几百个视频号都在持续推送“邪典动画”,将经典的动漫人物用AI生成技术进行二次创作,这些视频色彩鲜艳,更吸引儿童。
![]()
“白雪公主霸凌艾莎” “米奇在山顶脚踹蜘蛛侠”“兔头面具奥特曼打晕绑架小奥特曼”/图源:潮新闻
“这类视频不仅曝光度高,流量表现优异,甚至能获得平台支持。这类视频在创作时为博取关注,内容套路化严重:以动漫角色为外壳,填充恋爱情节或暴力冲突、混战场面。由于儿童的判断能力有限,容易信以为真。”这名受访者强调,平台算法助推不良内容形成传播闭环,“孩子一旦刷到观看,平台就会推送更多同类内容。”
此外,《红楼梦》中的人物进行“魔法战争”,《三国演义》两军对垒演变成“激光大战”等,通过“AI魔改”对中华优秀传统文化进行歪曲和污名化的,也属于“邪典视频”。
有专家指出,AI魔改对经典的伤害早已超越内容层面,它将“低俗猎奇”包装为“趣味创新”,逐步侵蚀文化传承与下一代成长的健康土壤,甚至可能在他们心中埋下“经典可随意解构”“历史可肆意戏说”的错误认知。
AI魔改催生畸形产业链
记者发现,在社交平台有关帖文和短视频平台评论区,有许多用户公然教学如何用关键词让AI生成大尺度图片。
比如,如何通过替换关键词,规避平台既有限制,免费生成包含性暗示等元素的“二次元”风格的儿童软色情图片,甚至出现“儿童怀孕”等恶劣内容。
现实世界也在被AI魔改内容逐渐“侵入”。
在电商平台上,有不少“外国山海经”里角色形象被印在衣服上或做成盲盒、积木等产品售卖;还有些商家表示可以制作AI生成手办定制照片,商品展示图衣着暴露、动作挑逗,并且未作年龄区分。
“外国山海经”的衍生产品销量也较高。比如某店铺一款包含24盒的盲盒公仔售价仅11.99元,付款人数已超2万;一些知名游戏IP推出与“外国山海经”联名的盲盒、卡牌。有小学教师反映,学生频繁向家长要钱,只为购买同学手中的“外国山海经”卡牌。
对此,有家长指出,“外国山海经”衍生出的相关产品会引发未成年人之间的“隐性”攀比。“孩子们聚在一起玩耍的时候,如果别人有自己没有,孩子会产生心理落差,甚至遭到排挤。”
不能让“AI魔改”的畸形产业链“作妖”
借助AI技术,进行趣味创新,传承传统文化,本是新瓶装好酒的有益实践。然而,现实中却是糟蹋精华、制造糟粕的歪曲丑化。
正如在上述“外国山海经”“邪典视频”中的角色,有的外形怪诞低俗、名称晦涩难懂;有的形象诡异惊悚,充斥暴力与血腥元素。这些内容荒诞、逻辑混乱的视频受到青少年追捧,进而发展成为一种流行于学生群体间的亚文化,其造成的危害不容小觑。
眼下,AI技术的出现,大幅降低了制作门槛和成本,任何人只需简单操作,即可生成魔改动画和“邪典视频”。然而,“杀人的不是刀,而是执刀的手”,错不在科技进步本身,根本原因还是畸形产业链在“作妖”。
当用心用情用力去创作提升文化认知、开辟成长净土的文艺作品,变得“吃力不讨好”,甚至无法得到应有的认可和收益;而借助AI之手,制造推送“邪典视频”,则是一本甚至无本万利的生意时,有些人就动起利用“毒流量”的歪心思,收割孩子和家长的钱包。
由此可见,刹住“邪典动画”的歪风,让所谓“外国山海经”“恶搞红楼梦”不再侵蚀未成年人的心智,单靠个人自觉,很难从根本上净化市场环境,唯有重拳出击,方能让魑魅魍魉无处藏身。
具体而言,家长亟需加强健康上网引导,树立家庭防护网,如手机、平板等电子产品,都要确保开启未成年防沉迷模式。在家里要增强有效陪伴,带头对网络依赖说不,更别把孩子简单丢给手机和短视频。
网络平台是信息内容管理第一责任人。维护清朗网络空间,责无旁贷。除按国家要求完善青少年模式,堵住账号切换的漏洞以外,还需主动净化平台内容,塑造正向的网络导向,为青少年健康上网保驾护航。
实际上,青少年对世界充满好奇,AI可以提供个性化学习资源,可以根据孩子兴趣,拓展知识边界,提供有针对性的深度内容。关键在于,如何有效激励优质作品,让有良知、有底线的创作者得到应有的回报。只有形成正向循环,才能让青少年得到真正有营养的知识“投喂”。
如今,网络生活已经成为每个人避不开的第二生存空间,制造所谓“无菌室”一样的断网环境,不现实也不可行。堵不如疏,进一步提升孩子接触虚拟空间的数字素养,增强其在人工智能浪潮中前行的能力,也是现代教育的应有之义。
(法治日报)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.