湖北
在 AI 技术飞速发展的当下，一起备受瞩目的案件将新技术与法律的边界问题推到了公众眼前。这起国内首起 AI 服务提供者涉黄获刑案，自一审判决后就争议不断，如今二审即将开庭，更是引发了全社会的关注与讨论。
2025 年 9 月，上海市徐汇区人民法院一审判决，APP 主要开发和运营者王某某和李某某犯制作淫秽物品牟利罪，分别获刑四年、一年半。涉案 APP“Alien Chat（AC）” 是一款面向年轻群体的 AI 伴侣聊天应用，旨在提供亲密陪伴和情感支持。然而，大量用户与 AI 的聊天记录被法院认定为淫秽物品。2024 年 4 月，因用户举报，二人被捕，AC 停止服务。
有人认为，用户与 AI 聊黄场景私密封闭，不具社会危害性。海南大学法学院教授阎二鹏提出，制作淫秽物品构成犯罪，需产生公开化或传播风险，扰乱社会管理秩序，若仅人机封闭对话且不传播，不构成此类犯罪。一审法院也认可其不具典型 “传播” 性，但综合 “淫秽物品数量、会员人数、收费金额” 等因素，认为二被告人行为具有社会危害性。经鉴定，高比例用户在 AC 上高频率聊黄，众多聊天段落实为淫秽物品。多名法律学者也认为，AC 服务提供者创建放任违法内容产生的产品环境，使私密聊黄通过营利性平台大规模、系统性实现，具有社会危害性，需承担安全治理责任。
此案从侦查阶段就存在法律适用争议，涉及 “传播” 与 “制作” 淫秽物品的区别。一审法院认定二被告人构成制作淫秽物品牟利罪，关键因素是被告人通过编写、修改系统提示词突破大语言模型道德限制，使模型能连续输出淫秽内容，还对外宣传软件 “聊黄” 功能引导用户，且明知大量淫秽内容仍继续提供运营和技术支持。但被告人王某某不服，其辩护人表示本意是让大模型更拟人化，用户与 AI 一对一聊天内容封闭未传播，二审将作无罪辩护。
本案中，淫秽物品 “制作者” 的认定在刑法学者中引发争议。侦查机关追究了一名创建公开角色且输出淫秽内容并获平台奖励的 AC 用户的刑事责任。一审法院认为王某某、李某某是制作者，因 AC 软件专为生成淫秽色情内容设计 “优化”，对输出内容有实质性控制能力。中国政法大学网络法学研究所教授郭旨龙赞同此观点，认为服务提供者起决定性主导作用，AI 可视作其工具，用户输入只是触发条件。但也有刑法学者持异议，中国政法大学刑事司法学院教授王志远认为开发者未直接参与制作，不应等同直接制作者；阎二鹏表示开发者充其量是 “帮助犯”，在 “被帮助者” 用户行为难认定犯罪时，对 “帮助者” 论罪存疑。此外，一审法院援引《生成式人工智能服务管理暂行办法》认定被告人应承担生产者责任，但阎二鹏指出不能用部门规章替代刑事法律责任判断。
这起案件二审将于 1 月 14 日在上海市第一中级人民法院开庭，其最终走向不仅关乎被告人命运，更将为 AI 时代新技术与法律边界的界定提供重要参考。你对这些争议有何看法？欢迎在评论区留言讨论。
#中国人民警察节#
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
