北京
几句引导性的文字，加上一份售价不到10元的专用“提示词”，就能设定好人物形象、动作细节乃至镜头效果，生成一段“大尺度视频”。近日，央视《财经调查》曝光了一条借助生成式人工智能，批量制造色情、擦边内容并以此牟利的“造黄”产业链。从教程兜售、模板分发，到引流变现、规避审核，相关违法行为已成为一门规模不小的生意，值得社会高度警惕。
图片来源：央视财经
与过去的涉黄视频依赖人工拍摄或素材拼接不同，在这条产业链中，只需使用AI工具，任何人都能批量生成此类内容，且可以反复调整、迎合受众偏好，其传播门槛被压得极低。借助图片生成、换脸等功能，虚构影像可能指向具体个人，很容易侵犯他人合法权益。
本应用于提高社会生产力的技术，被有心人用作违法行为的工具，这不是技术本身的问题，而是治理环境的问题。上述报道提到，一些商家一边卖教程，一边教人如何绕开审核，改写提示词、替换关键词，以便让系统“看不出来”。这说明平台并非毫无约束，只是规则易于规避，才让钻空子、打擦边球的行为屡禁不绝。
当前，我国对生成式人工智能已经作出了一系列具体规范。如《互联网信息服务深度合成管理规定》就明确要求：提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。结合此次曝光的情况看，当前的AI“造黄”乱象，其症结并不在于无规可依。加强监管与治理，重点在于规则能落地、有效落地。
对AI服务提供者而言，需要把责任压实到生成和分发的关键环节，既要识别结果，也要识别生成过程，对提示词及其变形保持更高敏感度。对以售卖相关教程、提示词牟利的行为，也有必要明确其性质，使其无法再以“经验分享”等名义游走于监管盲区。这类有组织的“造黄”链条，理应成为执法和治理的优先对象。
对普通用户来说，在使用AI生成内容时，也务必要认清其中的法律风险。无论是参与制作、传播涉黄内容，还是以其他方式滥用技术，一旦逾越法律法规的边界，便要承担相应的责任。如果涉嫌侵害他人权利，更将付出沉重代价。
技术不能突破社会规范的底线，对已经成形的违法产业链，越早看清其危害并出手治理，社会要付出的代价就越小。把规则立住，把责任压实，既是维护网络空间秩序的需要，也是对个人权益的保护。
来源：中国青年报客户端
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
