警惕“AI魔改”给青少年带来认知混淆

来源：滚动播报

（来源：中工网）

中青报·中青网记者 韩飏

“林黛玉”上演倒拔垂杨柳，“关羽”为一双假皮鞋踏上维权路……近日，一些荒诞的“AI魔改”内容在短视频平台上流传，引发公众对文化传承、法律边界与技术伦理的关注。中青报·中青网记者采访多位法学专家，深入剖析“AI魔改”现象背后法律风险与有效治理路径。

“AI魔改”并非简单的“图一乐”，背后潜藏的法律风险呈现多层次、交叉性特点。“‘AI魔改’主要涉及两大类作品。”中国政法大学知识产权法研究所所长付继存指出，一类是对已进入公有领域的经典作品（如文学名著）进行篡改，这可能侵害作者的保护作品完整权，即禁止他人歪曲、篡改其作品的权利。“即便原著版权保护期届满，其独创性的角色形象与精神内核仍受法律保护。”

他以“关羽”形象为例解释，历史人物关羽的事迹属于公共素材，但作者在《三国演义》中塑造的“忠义关羽”经典形象，是受法律保护的独创性表达。“AI魔改”将这一形象置于荒诞的剧情中，是对该艺术形象的扭曲，可能构成侵权。

另一类则是对仍在著作权保护期内的作品进行“魔改”，比如当代影视剧，涉及的法律问题更为复杂。付继存称，这类“魔改”行为可能同时侵犯著作权人的复制权、改编权、信息网络传播权等多项财产权，以及保护作品完整权等著作人身权。

中国政法大学副教授朱巍认为，“魔改”行为突破法律边界，往往不止于著作权范畴，还可能侵入人格权领域。“如果‘魔改’内容使用了影视剧中演员的肖像、声音，涉嫌侵犯演员的肖像权、声音权；即便演员已故，其近亲属仍有权寻求法律保护。”他强调，若是对英雄烈士的形象进行恶意篡改，可能触犯英雄烈士保护法，损害社会公共利益，检察机关可依法提起公益诉讼。

值得注意的是，若“魔改”行为涉及商业属性，法律规制更为严格。“以引流、变现为目的，利用他人知名形象进行‘魔改’创作的，可能构成不正当竞争。”付继存说。

中青报·中青网记者注意到，与传统恶搞内容不同，“AI魔改”的内容制作更为逼真，比如，“林黛玉”神态灵动、口型精准对位，“关羽”的语音语调几乎能以假乱真。技术的迭代升级，让一些恶搞内容真假难辨。

“这类由新技术生成的内容隐蔽性更强，有的看似真实又权威，对未成年人的误导性更大。”北京青少年法律援助与研究中心执行主任于旭坤注意到，AI生成内容形态多变，用传统关键词过滤手段难以有效识别，且这类内容制作门槛低，一经算法推荐，极易形成病毒式扩散。

“一些未成年人分不清虚构与现实的边界。”于旭坤说，很多00后、10后青少年并未读过《红楼梦》原著，也没看过87版经典电视剧，他们对“林黛玉”的初次认知，或许就是那个“倒拔垂杨柳”的“AI魔改”版本，这可能造成他们深层的认知混淆。

朱巍对此表示认同，“当四大名著、革命历史被戏谑、解构，一个民族共同的文化记忆和历史史实会在无形中被侵蚀。这绝非危言耸听，而是关乎文化自信根基的严肃问题。”

于旭坤指出，更需要警惕“AI邪典”，即利用AI生成的恐怖、暴力内容，伪装成儿童动画传播。“这类内容制作门槛低，传播速度快，会对未成年人心理健康造成直接损害。”

面对海量AI违规内容，传统治理框架面临挑战。共青团中央维护青少年权益部联合北京青少年法律援助与研究中心专家团队编写的《AI科学使用手册》，于1月19日正式发布，旨在引导青少年提升AI使用技能、科学有序用好AI、自觉防范AI沉溺，提升自主学习能力，回归真实社会交往。

监管层面在持续发力。今年年初，国家广电总局开展专项行动，重点整治以四大名著、历史题材、革命题材、英模人物等相关电视剧作品为蓝本的“AI魔改”内容。2025年9月，国家网信办等部门联合制定《人工智能生成合成内容标识办法》，要求AI生成内容必须强制亮明“数字身份证”。

记者采访中，专家一致认为，平台不应再以“技术中立”和被动的“通知-删除”规则作为挡箭牌。于旭坤强调，平台须承担起与自身技术能力相匹配的主体责任，主动搭建AI内容识别机制，对高风险账号和内容实施重点监管，同时畅通举报渠道、完善快速处置通道。

付继存提出要打好平台系统性治理的“组合拳”：平台可主动获取经典IP授权，为用户提供合规二创素材，引导创作生态走向规范，同时探索收益分成模式；优化算法机制，对低质、恶搞、篡改历史的内容实施限流、降权，切断其流量变现的利益链条；构建创作者AI版权信用档案，对频繁侵权者采取封号、禁止重新注册等惩戒措施，提高违法成本。

朱巍指出，治理“AI魔改”需要“用技术对抗技术”，发展更智能的AI识别系统，应对海量内容审核。针对涉及重大历史、英烈等特殊内容，必须保留必要的人工审核环节，确保价值判断的准确性。“二次创作是文化创新和经典传承的重要形式，不能因治理‘魔改’而扼杀健康的创作活力。”朱巍强调。

在朱巍看来，当前法律框架已基本完备，英雄烈士保护法、民法典等都有相应规定。“关键在于执法与司法环节充分、有效运用。”他认为，治理“AI魔改”的核心，是在鼓励创新与保护经典、技术自由与法律规范、个人表达与公共利益之间，找到动态、可持续的平衡点。

付继存建议，构建监管部门、平台、行业组织、用户多方参与的共治体系，可借鉴著作权集体管理模式，探索建立经典文化符号的正规授权渠道；同时未来立法中进一步细化对“深度合成技术”应用的规制，对涉及经典文化符号、历史人物等的内容设置更高保护层级，针对恶意牟利的“AI魔改”行为，引入更严格的惩罚性赔偿机制。

“唯有在严明的法律框架内，在技术向善的导向下，才能让AI真正成为赋能文化繁荣的利器。”朱巍说。