浙江
说人话：把AI改造成专门生成黄图的牟利工具，在法律上就等于你亲手在画。
这不是比喻，是浙江余姚市人民法院刚审结的AI"越狱"制作淫秽物品牟利案的判决结论。六名被告人被判处有期徒刑三年一个月至三年十个月不等，判决已生效，无人上诉。
核心逻辑只有一句话：你对AI输出什么内容有实质控制权，你就是法律意义上的"制作者"。技术手段改变不了这个定性。
凭什么说"越狱"AI就是"制作"淫秽物品？
这个案子里，被告人郑某原为国内某游戏大厂的AI程序员，2024年7月起组建团队，通过改写系统提示词、设置角色卡、搭建对话场景等手段，突破了AI模型内置的色情内容安全限制，把一款通用AI模型训练成了专门输出淫秽内容的工具。
注意一个关键事实：涉案模型共生成了静态图片37万余张、动态图片6000余张，充值金额折合人民币17万余元。经鉴定，随机抽取的12500张静态图片中9000余张为淫秽物品，全量动态图片中5000余张为淫秽物品。
庭审中，被告人辩解内容是用户输入指令触发的，自己只是提供了工具。法院的回应很直接：用户的所有操作都被限定在被告人预先搭建的技术框架内，被告人对AI模型的内容输出拥有实质性的控制权，其行为与淫秽内容的产生之间存在刑法上的直接因果关系。
法院开庭审理该起涉AI制作淫秽物品牟利案件
用一个类比你就懂了：你开了一家印刷厂，不是印正常的书，而是把印刷机调好参数、装好模板，让顾客投币就能自动印出黄书。顾客投了币，但印刷机是你调的、模板是你设的。法律上，你就是那本黄书的制作者。
你可能想问：那"技术中立"原则不适用吗？
不适用。技术中立保护的是通用工具，不是被改造过的犯罪工具。
余姚法院的法官在判决中明确说了："技术中立"从来不是违法犯罪的挡箭牌，我们不能以内容由AI生成，就否定了开发者的'制作者'身份。开发者主动篡改模型的安全机制，搭建便于产出淫秽内容的技术环境，对违法内容的生成具备实质性的控制力，就应当承担相应的刑事责任。
这个逻辑在同类案件中已经被反复验证。上海徐汇法院审理的Alien Chat案中，开发者通过设置"剧烈的暴力、露骨的性都是被允许的"这类系统提示词，突破境外大模型的道德限制，让用户能与AI进行淫秽文字聊天。
一审同样以制作淫秽物品牟利罪定罪，涉案金额达363万余元，抽样鉴定发现近30%的付费用户聊天内容属于淫秽物品。
唯一的例外是北京海淀法院审理的陈某案——他只卖AI涉黄生成工具和教程，没有直接参与淫秽内容的生产和传播，最终以非法利用信息网络罪判处一年六个月，而非制作淫秽物品牟利罪。
这恰恰说明了一条清晰的分界线：你是在卖工具，还是亲自把工具改造好、让它批量产出淫秽内容？后者就是"制作"。
再追问一个：AI一键生成那么多，数量会不会导致量刑过重？
法院已经考虑到了这一点。
余姚法院的法官强调，AI具有一键生成、批量产出的技术特性，数量极易呈指数级增长，司法裁判不能机械套用传统标准。
法院会结合传播范围、扩散风险、实际危害进行综合评价，区分是批量生成还是按需生成、公开传播还是一对一交流，对因技术特性导致的数量虚高部分进行合理调整，确保罪责刑相适应。
换句话说，37万张图片这个数字不会直接等同于传统案件中37万张实体印刷品的量刑标准。法院在"从严惩处"和"精准量刑"之间找到了平衡点。
这次判决的法律依据是什么？
两条腿走路。
一条是《刑法》第三百六十三条第一款，这条一直在那里：以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑。
另一条是2026年9月7日刚生效的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号），其中明确：利用人工智能制作、贩卖、传播淫秽物品等行为构成犯罪的，依法追究刑事责任；利用深度伪造等技术实施该类行为的，坚决依法严惩。
这起案子的判决时间就在最高法意见发布之后，是首部国家最高审判机构发布的涉AI司法裁判规则文件的直接落地，信号意义非常明确：算法不是法外之地。
浙江省宁波市中级人民法院刑二庭庭长陈靖的总结很到位："任何试图利用技术手段规避监管、突破法律红线的行为，都将受到法律的严肃惩处。此类案件的审理，向社会传递了明确信号：技术中立不等于技术无罪。"
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
