长城快评丨AI“造黄”，技术不是违法牟利工具

长城网·冀云客户端特约评论员 西窗

央视报道截图。

近日，央视曝光，有人公开兜售“AI生成色情擦边视频”的教程和“提示词”，引发关注。

帖子标着“AI制作美女视频”“AI擦边赛道日入5位数”等标题，再配上露骨的画面……这些教程就在网络平台堂而皇之地宣扬如何让用户“从无到有”“手搓”“色情擦边”视频。

AI本身是价值中性的技术工具，可在利益驱使下，却被人异化为“造黄”利器，还催生出一条分工明确、流水作业的产业链。由于AI技术的放大作用，其泛滥程度、危害后果，可能远超传统擦边乱象。

在上游，卖家明码标价，9.9元就能提供入门教程，200多元就能获取“高阶技巧”，不仅附赠“防和谐提示词库”，还偷偷传授相关软件使用、规避平台审核的歪招。“如何违法”被其包装成了“如何赚钱”，颇有迷惑性。

中游环节，用户只需上传任意一张人脸照片，不管是明星网红、普通路人，还是身边熟人，输入露骨提示词，就能快速生成色情图片、动态视频，甚至实现“AI脱衣”“AI换脸”，尺度不断突破底线。

更有不法团伙，推出所谓“定制服务”，众筹制作特定人物的淫秽内容，批量产出、重复售卖，把他人的名誉当成牟取暴利的筹码。

在下游，则有社交群、暗网、境外平台等渠道引流变现。要么直接打包售卖擦边视频内容，要么甚至被用于敲诈勒索、恶意诋毁，危害不容小觑。

对AI产业而言，少数人的违法行径，让技术背负上“污名”，正当的AI应用也可能被拖累，阻碍行业创新发展。

所幸，法律的利剑已经出鞘。4月10日发布的《人工智能拟人化互动服务管理暂行办法》第八条明确规定，提供拟人化互动服务，不得传播淫秽、色情等内容，不得向未成年人生成可能影响其身心健康的内容。

这不是空洞的条文，而是划定的明确红线，更是整治AI“造黄”乱象的有力依据。

事实上，已有违法者付出惨痛代价。国内首例AI服务提供者涉黄案中，两名开发者因修改提示词诱导AI“聊黄”，一审已被分别判处四年和一年六个月有期徒刑。湖北一男子用AI撰写色情小说售卖，被判处有期徒刑十个月。

这些法规和案例都在警示：AI不是法外之地，利用AI从事违法犯罪，将受到法律严惩。

当然，整治AI“造黄”产业链面临一些困境。例如，门槛低，一台手机就能成为黑产参与者，技术的平民化让乱象快速扩散；隐蔽性强，提示词不断“进化”，账号匿名化、传播私密化，让取证变得困难。更有不法分子利用境外工具、境外平台规避境内监管，进一步增加治理难度。

这也意味着，斩断这条“毒链”，不能单靠某一方发力，必须系统化治理，形成政府、平台、企业、网民协同共治的合力。

AI是工具，善恶全在人心。技术的进步，本应让社会更美好，而不是成为违法牟利工具、污染网络的毒源。斩断AI“造黄”产业链，势在必行。如此，才能让AI技术在法治和伦理的轨道上，真正发挥其应有价值。