AI助“邪典视频”死灰复燃，平台审核系统如何不被击穿？｜封面评论

□蒋璟璟

随着AI技术的普及，“邪典视频”有卷土重来之势。一些家长反映，孩子观看的视频中，存在残害肢体、角色从高处坠落等血腥场景，甚至有“把自己的眼珠子挖出吃掉”的可怕画面。这些AI魔改动漫，本质就是换汤不换药的“邪典视频”。它们往往顶着孩子熟悉的角色IP，塞满暴力冲突、低俗恋爱情节，专门盯着未成年人下手。部分“邪典视频”还被制作成商品，在电商平台销量不俗。（中新社）

近些年，有关部门通过关停违规账号、下架非法应用程序、处罚传播有害信息的平台等举措，下大力气整治邪典视频，整体收效显著。然而从最近的种种迹象看，暗黑的邪典“文化”，隐隐有借道AI故态复萌的势头。相较于以往的人工剪辑，AI一键生成邪典视频，门槛更低、成本也更小，其巨大的“产能”，更是构成了全新的挑战。如果说之前版本的邪典视频更多是见缝插针“夹带私货”，那么有理由担心，AI的助力下，邪典会否爆发式、批量化入场？

对经典动画IP进行血色魔改，这是当下邪典“文化”渗透的最常见模式，其目标受众主要是涉世未深的孩子，用心之险恶可见一斑。一个毋庸讳言的大背景是，AI视频量产化或者说“无限化”，给相关平台的审核带来了前所未有的压力。由于视频作品太多，平台的人工审核团队越发捉襟见肘。于是乎，一些平台就选择了“用AI审核AI”，这看似是技术进步，实则也是一种妥协。“妥协”之下，“邪典视频”被漏放，也就有了更大的可能性。

用机器系统审核视频，很多时候，其实并不能察觉到，剧情、画面、对话里那种若隐若现的“邪魅感”，机器并不能复刻人类看到“邪典视频”时那种油然而生的生理不适。情感力这块，是审核机器的天然短板。事实上，很多邪典视频，并不一定有直白的血腥、暴力元素，而是一种“阴毒”和“蔫坏”，机器能审核拦住前者，却很大概率对后者无能为力。只需几个简单的提示词，AI就能“按需”生产“软邪典”作品，而怎样筛选出、过滤掉这些作品，无疑需要新思路。

如何让平台的内容审核系统，具有类人式的情感直觉并加以算法化转化，这无疑是下一阶段防控邪典视频的重中之重。如果不能就此突破，那么只有加码人工审核，由此带来的巨大成本压力，对于商业平台来说，想必是不想面对的。