AI平台“一键生成”暴力视频

用户生成的殴打女性AI视频。

网友表示要举报，创作者不以为意。

　　“让开，别让他起来，动一下，废了你！”“往死里踢！”近日，在某AI平台上，有不少用户通过AI生成、发布暴力殴打他人的视频，其中，还有不少殴打老人、残疾人的内容。
　　这些AI视频内容基本相同，打人者用脚狠踢被打者头部，画面令人不适。有网友表示，此类视频太过暴力，让人隔着屏幕都觉得疼，但向平台举报无效，留言劝视频作者下架，却被反呛“不要做道德教师爷”。
　　对此，律师认为，主动制作、传播、二次创作暴力视频均涉嫌违法，“一键生成”也不能免责。

暴力视频“一键生成”老人、残疾人被“殴打”

　　在某AIAPP上，有一个“创建分身”和“出镜”的功能，用户可以创建一个自己的数字分身，然后出镜创作一段自己想要的AI视频。
　　这一功能使用了最新的Seedance2.0视频模型，生成的视频画面非常真实，可玩性很高，吸引了众多用户。使用者只需发挥创意，写好提示词，选择一个或多个出镜人物，即可生成一段10多秒的AI视频。
　　今年3月，有网友发帖称，一些用户生成并对外发布的视频，全是暴力殴打他人的内容。
　　华西都市报、封面新闻记者搜索发现，在该AIAPP上，的确有不少此类暴力视频。这些视频内容基本相同：2名打人者、1名被打者，打人者一脚将被打者踢倒在地，随后上前用脚猛踢被打者头部，边打边说“往死里踢，别让他起来，动一下，废了你，看你还敢不敢惹事”。
　　该AI用户使用出镜功能生成并发布一条视频后，其他用户可以进行参照，一键生成相同情节的视频，也可以替换出镜的人物，对剧情进行修改。
　　有用户根据模板，一键生成了不少“同款”殴打他人的暴力视频。离谱的是，还有不少人生成发布了殴打老年人、殴打残疾人，以及扇女性耳光的视频。
　　在这些创作者中，一个名为“创梦基地”的用户较为活跃。“穿潮流时尚破洞牛仔裤……抬腿飞踢老奶奶”：一段视频中，一名老年女子被两名年轻女子踢打头部，嘴巴还被塞上白布；“换成踢残疾人殴打”：一名拄拐杖的残疾人也被踹倒在地，被反复踢。“创梦基地”账号页面上，发布了20余条类似的暴力视频。

网友质疑“AI霸凌”向平台举报无效

　　对于这些视频，多名网友表示“看不下去了”，虽然视频是AI生成的，但“太暴力了”，加上画面真实，看后令人不适，并提出质疑：“这叫AI霸凌吗？”“作者是否有受虐倾向？”“什么平台不管这些暴力视频？”
　　该AI用户“困困糖”也发布了一条暴力殴打他人的视频，点赞量较高，有网友留言说“举报了”，“困困糖”却不以为然：“你挺那啥的，玩个AI又跑来做道德教师爷。”
　　这些暴力视频并没有因网友的举报而下架。记者尝试对上述视频进行举报，该AIAPP显示举报已提交，但一周后，相关视频仍然存在。记者又通过后台联系客服，但一直是机器人回复，提交的举报和反馈也未得到回应。
　　有网友认为，此类暴力视频的创作者，或许是想通过这种方式来发泄自己的情绪，或表达自己的性格、喜好。此类视频“藏”在暗处，平台上随机出现，加之平台监管不力，给了这些视频传播的空间。