北京
人工智能（AI）的快速发展便利了人们的生活，但也催生了新形式的违法犯罪。当AI被用于制作涉黄程序及教程供贩卖，不仅污染了网络环境，破坏了社会风气，也使行为人身陷囹圄。记者从北京市海淀区人民法院了解到，该院日前审结了一起利用通讯群组销售AI制作淫秽物品程序及教程的新型网络犯罪案件。被告人陈某因犯非法利用信息网络罪被判处有期徒刑一年六个月，并处罚金两万元。
该案主审法官杨茜表示，本案为AI技术工具的开发者和提供者划定了清晰的法律红线——技术工具不得被设计用于或实质性用于实施违法犯罪活动。
案情显示，陈某销售的AI绘图类程序来源于网络开源的整合包和图片生成模块，其在通讯群组内发布涉黄图片及视频用于吸引群成员加入付费群，群成员每人支付128元或168元的费用后在付费群内获取相应AI软件和教程。
法院审理查明，2023年8月至2025年6月期间，被告人陈某在某软件上设立、管理多个通讯群组，并在群组内发布制作淫秽物品的信息，后收取费用向付费群的成员发布AI制作淫秽物品的教程及应用程序。
经查，陈某获利10万余元。为吸引群成员付费，陈某在通讯群组内发布5个视频和15张图片，经认定系淫秽物品。陈某于2025年6月26日被公安机关抓获到案，后如实供述了上述犯罪事实。庭审中，陈某当庭表示认罪认罚。
法院审理认为，陈某的行为符合非法利用信息网络罪规定“设立用于制作违禁品的通讯群组”和“利用信息网络发布有关制作淫秽物品违法犯罪信息”的构成要件。陈某收取的上述群成员费用高达10万余元，属于“情节严重”。最终，法院作出前述判决。
一审宣判后，被告人陈某未上诉。判决已生效。
杨茜表示，技术本身具有中立性，但技术的开发者和提供者必须遵守法律法规和公序良俗。陈某在AI制图软件中预设可生成涉黄图片及视频的特定参数和指令模板，降低了使用者制作涉黄物品的技术门槛，并以此牟利，应当承担相应的法律责任。
杨茜告诉中青报·中青网记者，本案的一个意义是厘清了“工具提供型”涉AI犯罪的认定规则。本案区别于利用AI撰写色情小说、开发涉黄AI陪聊软件等直接将AI技术用于生成淫秽内容的情形，属于“工具提供型”涉AI犯罪。法院准确把握了两类行为的本质区别，坚持罪刑法定原则和证据裁判规则。
她解释说，在被告人发布用于引流的淫秽物品数量未达入罪门槛、违法所得与淫秽物品传播缺乏直接关联的情况下，不认定为传播淫秽物品牟利罪，同时依法以非法利用信息网络罪予以惩处，确保了罚当其罪。这一裁判规则为今后处理同类“工具提供型”涉AI犯罪案件提供了参考。
本案呈现出利用新技术实施网络违法犯罪活动扩散速度快、影响范围广、隐蔽性强的特点。“值得注意的是，当前AI制作淫秽物品已形成从教程售卖、提示词交易、私域引流、销售程序的完整违法产业链。”杨茜介绍，4月10日，《人工智能拟人化互动服务管理暂行办法》公布，明确禁止利用AI传播淫秽色情及危害未成年人身心健康的内容。法院依法裁判，划清罪与非罪的界限，对于遏制利用AI技术实施违法犯罪活动的势头，维护清朗网络空间，具有重要意义。
她提醒，通讯群组及网站的建立者、管理者对群内信息负有管理责任，设立主要用于发布淫秽、赌博、诈骗等违法犯罪信息的群组及网站，即使本人不直接实施相关犯罪，也可能构成非法利用信息网络罪。利用信息网络发布制作、销售违禁品、管制物品和其他违法犯罪信息的，也可能构成该罪。广大网民应自觉守法，不设立、不加入、不管理违法群组，不购买、不使用、不发布具有制作违禁品功能的程序和教程，发现相关线索及时向网信、公安部门举报，共同维护清朗网络空间。
中青报·中青网记者 刘言
来源：中国青年报
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
