北京
AI被异化为“造黄”工具，其危害无疑是系统性的。
▲央视揭秘AI“造黄”产业链。图/央视财经视频截图
文| 和生
9.9元，就能买到一套AI“造黄”教程；几块钱，就能获取批量生成擦边视频的“提示词”。近日，央视曝光的AI“造黄”产业链，令人触目惊心。
从兜售制作教程、交易定制化提示词，到利用AI应用漏洞生成色情内容，再到销售境外涉黄AI聊天软件，AI“造黄”已形成一条完整的黑色产业链：商家以“AI擦边赛道日入5位数”为诱饵，在电商平台公开售卖教程，教用户使用境外AI软件或本地部署程序来规避监管；而“提示词”中的敏感词汇还被翻译成英文以逃避审核。
技术本身是中性的，但技术的使用须有边界。当AI被异化为“造黄”工具，其危害无疑是系统性的。
这首先是对女性权益的严重侵害。AI换脸、AI脱衣等技术，让任何一张普通照片都可能被恶意加工成色情内容，受害者往往毫无察觉，直到谣言满天、名誉扫地，遭遇社会性死亡。与此同时，这也是对网络生态的毒化。大量AI生成的擦边视频充斥平台，形成“劣币驱逐良币”的恶性循环。
更令人揪心的，是这一乱象对未成年人的潜在危害。如今，AI技术深度参与青少年的日常生活，但“9.9元造黄”的门槛却如此之低。试想，当境外涉黄AI软件通过灰色渠道流入国内，就不得不警惕，那些心智尚未成熟的孩子，会否在不经意间接触到这些内容？
这并非杞人忧天。业内人士透露，那些AI聊天软件“普遍尺度很大，充斥着色情内容”，而“恋爱的感觉、及时的回复、量身定制的人设”正吸引着越来越多年轻人沉浸其中，其中不乏未成年人。
因此，必须尽早斩断AI“造黄”产业链，这不仅是对法律底线的捍卫，更是在AI时代守护好下一代的必要手段。
值得注意的是，虽然跨境监管的难度给黑产留下可乘之机，但不代表监管部门无能为力：如深化国际执法合作，循线追踪境内人员参与、境外服务器服务的案件；强化技术封堵，依法切断涉黄AI应用访问渠道；对平台审核失职、灰色渠道引流等行为依法严惩。
刚刚公布的《人工智能拟人化互动服务管理暂行办法》，已明确对未成年人使用拟人化互动服务作出专门规定。这为治理提供了法律依据，关键在于执行到位。
此外，AI平台必须承担起主体责任，建立更严格的内容审核机制，堵住提示词绕过、英文规避等漏洞。电商平台更要加强审查，对售卖“造黄”教程、提示词的店铺零容忍。
技术向善，应是AI发展的底线。也只有坚决斩断AI“造黄”产业链，才能让技术真正服务于人，而非异化为伤害人的工具。这不仅是为了当下，更是为了孩子们的未来。
撰稿 / 和生（媒体人）
编辑 / 马小龙
校对 / 赵琳
欢迎投稿：
新京报评论，欢迎读者朋友投稿。投稿邮箱：xjbpl2009@sina.com
评论选题须是机构媒体当天报道的新闻。来稿将择优发表，有稿酬。
投稿请在邮件主题栏写明文章标题，并在文末按照我们的发稿规范，附上作者署名、身份职业、身份证号码、电话号码以及银行账户（包括户名、开户行支行名称）等信息，如用笔名，则需要备注真实姓名，以便发表后支付稿酬。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
