央视曝光AI“造黄”产业链，监管利刃必须砍向AI背后的人

极目新闻评论员 屈旌

近日，央视曝光多款AI应用存在涉黄生成漏洞，从“AI生成色情擦边视频”教程的公开兜售，到“提示词”隐晦绕过内容审核，再到境外涉黄AI软件通过灰色渠道流入国内、诱导未成年人沉迷，一条完整的AI“造黄”产业链已然浮出水面。

不法商家公然打着“AI擦边赛道日入五位数”的广告，在各个平台大肆宣扬，甚至提供“一张图片生成全裸视频”的技术服务，为了攫取利益无视法律，不择手段。

这些行径不仅突破了技术伦理的底线，更涉嫌违法犯罪。各种不堪入目的色情内容，无异于给AI“投毒”，也污染了网络空间，更对未成年人身心健康造成严重威胁。

一些不法分子得寸进尺，通过境外上架AI聊天软件，其中大量充斥着定制化的色情对话，对未成年人形成极大诱惑，让他们在“恋爱感”“量身定制”的包装下陷入色情泥潭，严重影响身心健康和价值观养成。

乱象表面上是AI之祸，实质上作恶的依然是人。所谓AI“造黄”产业链，不过是把传统地下涉黄产业中“换脸”“P图”“编剧本”等手法，嫁接上AI这个新工具。从前是人工合成淫秽图片，现在是AI一键生成；从前是论坛传播色情教程，现在是社交媒体兜售“提示词”。技术变了，手段升级了，但违法牟利的本质从未改变。

那些开发境外色情AI软件并引流至国内的不法分子，精心设计隐晦提示词以绕过审核的“创作者”，公然叫卖“大尺度视频教程”的传播者，才是真正的罪魁祸首。光把问题推给AI，是典型的避重就轻，甩锅卸责。AI说到底只是技术工具，利用AI逾越法律红线，破坏社会秩序的人，必须为自己的行为付出代价。

正因如此，监管的利刃必须精准地砍向AI背后的坏人。被点名的“哩布哩布 AI”，即便将应用上架境外市场，其运营主体注册地仍在国内，监管部门完全可顺藤摸瓜，打破所谓的“技术”伪装，揪出背后的实际控制人、运营者和获益者，追究其法律责任。

同理，那些在社交平台上公开兜售教程、提供“绕监管攻略”的账号，背后都是实实在在的自然人或经营主体。平台有义务配合监管部门将其一一锁定，依法严惩，绝不姑息。境外软件借灰色通道渗透，更要封堵传播链路、打击引流推广，让违规者付出沉重代价，形成有力震慑。

有网友感慨，但凡有新技术出现，总有人第一时间想着如何用它做坏事。客观而言，AI技术的快速迭代确实给监管带来了新挑战，现有的法律法规和治理手段相对滞后，但是，监管的防火墙也不能想绕开就绕开。长远来看，遏制AI “造黄”等技术滥用导致的乱象，需要多方协同、系统施治，明晰技术开发使用的法律与伦理边界。

一方面，法规体系要持续完善，刚出台的《人工智能拟人化互动服务管理暂行办法》明确安全评估、算法备案要求，划定未成年人保护红线，要加快落地执行，让监管有法可依；另一方面，平台主体责任必须压实。无论是国内AI应用还是境外服务通过境内渠道推广，平台对明显的色情诱导内容、引流链接负有主动发现和处置义务。同时，技术反制手段也要跟上步子，不能让监管总是跟在后面追，魔高一尺更需道高一丈。

最关键的是强化源头治理，严管未备案违规AI 产品。打击境外软件灰色入境通道，建立跨国界、跨部门、跨区域协同监管机制。

引导技术向善，关键还是在人。AI生成不能成为法外之地，更不可能是违法者的“技术护身符”。唯有监管长出牙齿，抓准病灶，动真碰硬，以刚性法规与技术手段筑牢防线，才能引导新技术的从业者、使用者坚守底线，不敢越雷池半步。也只有让普罗大众知道，AI不是逃避脱责的理由，才能教育公众提升技术素养和辨别能力，自觉抵制不良内容，别给下一代留下一个乌烟瘴气的网络空间。

（来源：极目新闻）