几句引导性的文字,加上一份售价不到10元的专用“提示词”,就能设定好人物形象、动作细节乃至镜头效果,生成一段“大尺度视频”。近日,央视《财经调查》曝光了一条借助生成式人工智能,批量制造色情、擦边内容并以此牟利的“造黄”产业链。从教程兜售、模板分发,到引流变现、规避审核,相关违法行为已成为一门规模不小的生意,值得社会高度警惕。
![]()
图片来源:央视财经
与过去的涉黄视频依赖人工拍摄或素材拼接不同,在这条产业链中,只需使用AI工具,任何人都能批量生成此类内容,且可以反复调整、迎合受众偏好,其传播门槛被压得极低。借助图片生成、换脸等功能,虚构影像可能指向具体个人,很容易侵犯他人合法权益。
本应用于提高社会生产力的技术,被有心人用作违法行为的工具,这不是技术本身的问题,而是治理环境的问题。上述报道提到,一些商家一边卖教程,一边教人如何绕开审核,改写提示词、替换关键词,以便让系统“看不出来”。这说明平台并非毫无约束,只是规则易于规避,才让钻空子、打擦边球的行为屡禁不绝。
当前,我国对生成式人工智能已经作出了一系列具体规范。如《互联网信息服务深度合成管理规定》就明确要求:提供深度合成服务,应当遵守法律法规,尊重社会公德和伦理道德,坚持正确政治方向、舆论导向、价值取向,促进深度合成服务向上向善。结合此次曝光的情况看,当前的AI“造黄”乱象,其症结并不在于无规可依。加强监管与治理,重点在于规则能落地、有效落地。
对AI服务提供者而言,需要把责任压实到生成和分发的关键环节,既要识别结果,也要识别生成过程,对提示词及其变形保持更高敏感度。对以售卖相关教程、提示词牟利的行为,也有必要明确其性质,使其无法再以“经验分享”等名义游走于监管盲区。这类有组织的“造黄”链条,理应成为执法和治理的优先对象。
对普通用户来说,在使用AI生成内容时,也务必要认清其中的法律风险。无论是参与制作、传播涉黄内容,还是以其他方式滥用技术,一旦逾越法律法规的边界,便要承担相应的责任。如果涉嫌侵害他人权利,更将付出沉重代价。
技术不能突破社会规范的底线,对已经成形的违法产业链,越早看清其危害并出手治理,社会要付出的代价就越小。把规则立住,把责任压实,既是维护网络空间秩序的需要,也是对个人权益的保护。
来源:中国青年报客户端
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.