广东
21世纪经济报道记者 章驰
家长们注意了，你手机里可能藏着孩子正在看的“恐怖动画”，播放量高达百万，由AI生成。
最近，不少家长发现孩子用大人手机看一些毛骨悚然的视频，可爱的玩偶遭受各种血腥暴力虐待，被扔进火锅，甚至上演“妈妈吃掉孩子”的恐怖情节。这类视频全是AI生成的，大量流传于抖音和B站等视频平台，一条展示虐待画面的名为“anon犬的观察实验”的视频，播放量已达141万。
这些视频打着“略向慎入”的标签，略向意思是“虐向”，通过病态的感官刺激博取关注，刻意制造猎奇、恐怖与不适吸引人观看，评论区里充斥着“还不够虐”等言论。当孩子们无意间点进去看了一个之后，算法还会推送更多同类视频。
针对“虐向”视频传播的问题，哔哩哔哩负责人表示，对最新出现的涉嫌侵害引导的内容已展开全面排查，从严管控，目前在搜索及内容端已展开定向处置。抖音表示，《抖音社区自律公约》鼓励用户创作积极、有价值的优质作品，对此类新型邪典内容坚决打击，已对相关违规内容予以下架处置。
AI时代让有害内容的生产变得更简单，推送观看防不胜防，无论是在社会伦理还是法律层面，都在挑战底线。虐向视频被有心之人利用、引流，甚至会催生畸形产业链，让未成年人价值观扭曲，产生社会危害性。
家长要注意了，多和孩子沟通，并立即检查孩子常用的设备，开启未成年人模式。监管部门和视频平台等各方也要尽快将责任落到实处。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
