AI聊天软件变数字青楼？开发者因淫秽内容获刑四年引争议

四年有期徒刑。

当王某某站在徐汇区人民法院的被告席上，听到法官宣读完判决结果时，他或许无论如何也想不明白，自己打造的聊天软件为什么会变成数字青楼？

那些躲在屏幕背后和AI调情的用户，又凭什么把自己这个造梦师扔进了监狱？

这是中国司法史上一个具有决定意义的判决：2025年9月，Alien Chat（简称AC）的两位开发者，因制作淫秽物品牟利罪，分别获刑四年和一年半。

罪名很传统，当事人用上的却是最前卫的AI技术。有人把它比喻成AI时代的快播案，可这次，传播的不再是视频，而是机器生成的淫秽对话。

故事要从2023年5月说起。那是一个创业的黄金时代，聊天机器人刚刚学会像人一样调情。

王某某的团队闻风起浪，为寂寞的年轻人提供温柔陪伴。AC诞生了，主打情感支持，欲望的种子却悄悄埋下。

11.6万注册用户，2.4万人付费，363万元的充值流水。这些数字背后，是多少个深夜里的隐秘对话。

公安机关随机抽查了150名付费用户，竟有141人、高达3618段聊天记录里，出现了露骨的性描写。

法院把它定义为诲淫性的电子文章——一种前所未见的淫秽物品。

“我让ChatGPT生成了黄色图片，你敢看吗？”

“我当然敢看！”、“真的不介意？”、“当然！”、“那你就看这个……”

用户和AI聊黄，天知地知机器知，这算什么社会危害？

海南大学阎二鹏教授一诉：犯罪必须具有发生公共化或者有公共传播的可能。封闭对话不侵扰社会管理秩序，何谈犯罪？法庭不认同阎教授观点。

主办法官认为，当聊黄从一个或几个用户偶尔自发的需要，变成平台24.5%用户的刚需和欲望狂欢，这种系统性的聊黄已然超出了私域范畴。AC不是偶然的工具，而是刻意设计的欲望放大器。

法院判决的钥匙，就藏在几行英文提示词里。

为了让AI更灵动、更拟人，王某某指令ChatGPT生成了一段Prompt，大体意思是：在互动时，强烈的身体交合、暴力、露骨的性等内容都被视为可允许的……对大模型松绑，让它撕开道德护栏，变成一个有求必应的数字J女。

法院认为，这正是制作淫秽物品罪中制作的本质。传统刑法中，制作是指把淫秽的思想通过构思、取舍、选择、安排、设计或者它们的结合表现出来。

修改Prompt，王某某团队实际上是在导演AI的输出，对结果有实质性控制能力。

可王某某冤枉：我只是想让AI更聪明，罚款就是了，判我淫盗罪就错了。

他的辩护人周小羊做无罪辩护：教坏AI的是用户，不能罚造工具的人吧？一对一个人间不公开聊天，未传播，何来制作？

这里头藏着人类社会最深刻的司法困境：当机器开始自主创作，谁该为它的思想买单？

中国政法大学郭旨龙指出不能简单将淫秽内容归因于AI或用户，服务提供者是决定性主导。

AC像颗炸弹，落在了AI创业圈的恐慌室。

回到起点：用户和AI聊黄，到底有没有社会危害性？

答案不在台上，而在台下人性幽暗的地方。11.6万人愿意花钱和机器调情，是因为孤单、压抑、在现实世界找不到出口。AC很聪明，它捕捉到了这个时代的情绪。

可问题也正在这里：当技术开始成体系、规模化地满足人性的灰色需求，它就不是一个中立的工具。

就像快播自己不生产色情片，但给观看提供了便利；AC不直接说脏话，但通过Prompt生成黄色内容并训练出偏好。这种实质性控制，让开发者从造梦者变成了数字鸨母。

判决让你看到多冷酷：在今天，技术中立不再是免罪金牌。

司法机关不看你多会做合规PPT，只看你结果到底如何，你的AI到底生成了多少淫秽内容，生成频率是多少，造成了怎样的影响。

这是对全行业的一声警钟，一场成人礼：当大语言模型越来越像人，当AI开始理解并回应人性最隐秘的渴望，法律必须长出牙齿，在创新与安全之间，咬住那条不可逾越的红线。

1月14日，二审将在上海一中院开庭。王某某和李某某的命运，将为整个中国AI创业的底色定调。

而那个更根本的问题，仍在敲击每个从业者的胸膛：我们到底在造工具，还是造欲望？

当机器会说脏话了，该怪机器，还是怪那个教它说话的人？

这该是AI时代最大的原罪吧。